GPT-2: 15억 파라미터 공개

OpenAI는 GPT-2 1.5B 모델이 사람이 보기에 매우 그럴듯한 합성 텍스트를 생성할 수 있다고 밝혔다.

공동 연구에서는 이 모델을 파인튜닝해 백인우월주의, 마르크스주의, 지하디스트 이슬람주의, 아나키즘 등 극단주의 선전물을 만들 수 있음이 확인됐다.

OpenAI가 공개한 탐지기는 테스트에서는 성능이 좋았지만, 단독으로 사용하기엔 충분히 신뢰할 수 없다고 설명했다.

이번 결과는 대형 언어모델의 사실감이 높아지는 동시에 오남용 위험도 커지고 있어, 신뢰할 수 있는 탐지가 시급한 과제임을 보여준다.