인공지능(AI) 프로그램이 사람의 거짓말을 더 정확하게 판별하도록 돕는 새로운 훈련 도구가 개발됐다. 이 도구는 특히 모기지 신청이나 보험료 할인 신청과 같이 사람이 경제적 이익을 위해 거짓말 동기가 높은 상황에서 활용될 수 있다.
경제적 이득 관련 거짓말 판별… 인공지능의 새로운 도전
연구 논문의 공동저자인 노스캐롤라이나 주립대 경영대학 풀 칼리지 메흐메트 카너(Mehmet Caner) 교수는 "인공지능 프로그램은 개인이 얼마나 큰 규모의 모기지를 획득할 수 있을지, 또는 얼마나 저렴한 보험료를 낼 수 있을지 예측하는 등 다양한 비즈니스 상황에서 사용된다"라고 말했다.
"하지만 기존 인공지능 프로그램은 통계 자료에 기반한 수학적 알고리즘만 사용하기 때문에 사람들이 모기지 승인이나 보험료 할인을 위해 거짓말을 하도록 유도할 수 있다는 문제가 있다"고 카너 교수는 지적했다.
"우리는 이러한 경제적 이득을 고려하여 인공지능 알고리즘을 조정하는 방법이 있는지 연구해보고 싶었다"고 카너 교수는 설명했다.
AI 훈련 데이터 개선으로 거짓말 탐지 기능 강화
연구팀은 인공지능이 스스로 예측 모델을 학습하도록 돕는 새로운 훈련 매개 변수를 개발했다. 이 매개 변수는 특히 인간 사용자의 경제적 이득 동기를 인식하고 고려하도록 설계되었다. 즉, 인공지능은 사람들이 자신의 이익을 위해 거짓말을 할 수 있는 상황을 파악하도록 훈련된다.
실제 상황을 모사하는 시험에서 변형된 인공지능은 사용자가 제공한 부정확한 정보를 더 정확하게 탐지하는 성능을 보였다.
카너 교수는 "이를 통해 사용자가 정보를 제출할 때 거짓말 동기를 효과적으로 줄일 수 있다. , 하지만 사소한 거짓말은 여전히 탐지되지 않음 상태로 남을 수 있다. '사소한 거짓말'과 '큰 거짓말' 사이의 경계가 어디인지 더 명확히 파악하기 위해 추가 연구가 필요하다."고 말했다.
인공지능 발전, ‘완벽한 거짓말’ 시대는 사라질까?
연구팀은 개발된 인공지능 훈련 매개 변수를 공개하여 인공지능 개발자들이 실험에 활용할 수 있도록 했다.
카너 교수는 "이 연구는 인공지능 프로그램을 개선하여 사람의 거짓말 동기를 줄일 수 있음을 보여준다. 앞으로 인공지능이 더욱 발전한다면 완전히 거짓말 동기를 없앨 수도 있을 것이다."라고 말했다.
이 연구 결과는 Journal of Business & Economic Statistics에 게재됐다.