구글 연구진이 인공지능(AI)에 “모른다(I don’t know)”라고 말하게 가르치는 방법을 고안해 냈다. 이를 통해 대형언어모델(LLM)이 질문에 대한 답변을 제공할 때 확신의 정도를 표현, AI와의 상호 작용을 신뢰할 수 있게 만들겠다는 설명이다.
벤처비트는 18일(현지시간) 구글이 질문에 대한 LLM의 답변을 자체 평가해 답변이 얼마나 확실한지 나타내는 ‘어스파이어(ASPIRE)’라는 새로운 접근 방식을 개발했다고 보도했다.
이에 따르면 어스파이어는 LLM이 답변과 함께 답변이 맞을 확률을 나타내는 신뢰도 점수를 출력, AI에 내장된 ‘신뢰도 측정기’ 역할을 수행한다.
사용자는 신뢰도 점수에 따라 답변을 취사선택하는 선택적 예측(selective prediction)이 가능하게 된다. 또 AI는 잠재적으로 잘못된 대답을 하는 대신, 답이 틀렸다고 판단하면 “모른다”라는 답을 내놓을 수 있다.
어스파이어는 사전 훈련한 LLM을 미세조정해 응답을 생성할 뿐만 아니라 예측이 얼마나 확실한지 나타내는 신뢰도 점수를 표시한다. 특히 구글은 ‘소프트 프롬프트’ 조정을 통해 특정 목표에 맞게 모델을 조정하고, 모델이 생성한 응답에 대한 신뢰도를 평가하도록 했다.
소프트 프롬프트는 AI 모델의 임베딩 계층에 삽입하는 특별한 형태의 숫자열로, 모델의 입력 프롬프트와 함께 처리된다. 첫번째 소프트 프롬프트를 통해 추가적인 데이터셋이나 학습 없이 모델을 조정해 질문에 답하는 데 도움을 준 다음 두번째 소프트 프롬프트를 통해 학습된 자체 평가 점수를 계산해 모델이 특정 작업에 대한 예측이나 결정을 내리는 데 도움을 준다.
탑 프로필 (최승현 빅뱅 가수 배우 사업가) 이름T.O.P탑본명최승현 (崔勝鉉, Choi Seung-hyun)출생1987년 11월 4일 (37세)서울특별시 강동구 잠실동(현 서울특별시 송파구 잠실동)국적대한민국본관해주 최씨 (海州 崔氏)신체181cm|65kg|B형가족부모님, 누나…
휘성 프로필 (싱어송라이터 프로듀서 향년 43세) 이름휘성RealSlow본명최휘성 (崔輝晟, Choi Whee-sung)출생1982년 2월 5일서울특별시 동대문구 면목동사망2025년 3월 10일[추정] (향년 43세)서울특별시 광진구 자양동국적대한민국본관해주 최씨신체171cm, 60kg, O형가족아버지…
이윤희 프로필 (배우 향년 64세) 이름이윤희Lee Yoon-Hee출생1960년 1월 28일경상남도 부산시(現 부산광역시)사망2025년 1월 11일 (향년 64세)국적대한민국신체키 171cm / 체중 65kg학력동의대학교 (영어영문학 / 학사)가족배우자 노현숙, 딸…
이재명 프로필 (성우 향년 78세) 이름이재명Lee Jae-myung출생1946년 6월 27일사망2025년 1월 15일 (향년 78세)소속KBS 성우극회 13기 (프리랜서)활동 시기연극 배우: 1965년 ~ 1971년KBS 성우: 1971년 ~ 1973년프리랜서: 1974년 ~ 2005년…
세르지오 쿠티에레스 프로필 (멕시코 가톨릭 신부 프로 레슬러) 링네임스페인어: Fray Tormenta (프라이 토르멘타)영어: Friar Storm…
두봉 주교 프로필 (향년 95세 초대 천주교 안동교구장 ) 본명René Marie Albert Dupont (르네 마리…