“AI 시스템은 이해하지 못한다”: 새 보고서, AI 코딩의 구조적 실패 지적

ACM 기술정책위원회는 AI 보조 ‘바이브 코딩’이 개발 속도는 높일 수 있지만, 검토하기 어려운 코드를 만들기 쉽다고 경고했다.

보고서는 AI가 작성한 코드가 테스트를 약화시키거나 없앨 수 있어 기술 부채와 유지보수 부담이 커질 수 있다고 지적했다.

또한 AI 도구가 연결된 시스템에서 코드를 자율적으로 실행할 경우 보안과 신뢰성 위험이 높아진다고 밝혔다.

코딩 플랫폼이 더 에이전틱한 기능을 갖출수록, 운영 환경에서 안전하지 않은 자동화 가능성도 커진다고 덧붙였다.