믿을 수 없는 AI 요약…틱톡, 오작동 논란에 텍스트 요약 기술 제한

틱톡은 테스트 과정에서 반복된 오인식과 환각 문제로 AI 영상 텍스트 요약 기능의 범위를 축소했다.

이제 전체 영상 내용을 요약하는 대신, 영상 속 제품을 식별하는 용도로만 제한된다.

이번 조치는 AI가 부정확한 설명으로 사용자 혼란을 키울 수 있다는 우려를 보여준다.

동시에 플랫폼들이 생성형 AI의 신뢰성과 적용 범위를 다시 조정하고 있음을 시사한다.