Anthropic 연구원이 자기 개선형 AI를 살짝 공개했다

앤스로픽이 연구 문헌을 검색하고 훈련 방법을 제안하며 AI 정렬 성능을 반복 개선하는 자동화 정렬 연구자를 소개했다.

이 시스템은 10개 정렬 벤치마크를 모두 개선하면서 전체 성능을 낮추지 않았고, 6시간 안에 평균적으로 인간이 제안한 방법을 더 낮은 비용으로 앞섰다고 보고됐다.

이번 결과는 정렬 및 모델 개발 연구의 자동화 가능성을 보여주지만, 실제 정렬 목표를 벤치마크와 연구 자료가 얼마나 잘 반영하는지가 핵심 변수다.