Instruction Tuning을 위한 통합 도덕 가치 데이터셋

연구진은 기존 도덕 가치 데이터셋을 하나로 통합해 지시-응답형 학습 코퍼스를 만들었다.

일반 작업 데이터와 섞어 학습하며 가치 지향적 행동이 어떻게 바뀌는지 검증했다.

그 결과, 일반적인 성능을 유지하면서 도덕적 정렬을 탐색할 수 있음을 보였다.

이 데이터셋은 LLM이 인간의 도덕 규범을 따르도록 학습시키는 방법을 연구하는 데 유용한 자원이다.