만화 애니 웹툰

구글, 모르면 “모른다”고 답하는 AI 개발

구글, 모르면 “모른다”고 답하는 AI 개발

구글 연구진이 인공지능(AI)에 “모른다(I don’t know)”라고 말하게 가르치는 방법을 고안해 냈다. 이를 통해 대형언어모델(LLM)이 질문에 대한 답변을 제공할 때 확신의 정도를 표현, AI와의 상호 작용을 신뢰할 수 있게 만들겠다는 설명이다.

벤처비트는 18일(현지시간) 구글이 질문에 대한 LLM의 답변을 자체 평가해 답변이 얼마나 확실한지 나타내는 ‘어스파이어(ASPIRE)’라는 새로운 접근 방식을 개발했다고 보도했다.

이에 따르면 어스파이어는 LLM이 답변과 함께 답변이 맞을 확률을 나타내는 신뢰도 점수를 출력, AI에 내장된 ‘신뢰도 측정기’ 역할을 수행한다.

사용자는 신뢰도 점수에 따라 답변을 취사선택하는 선택적 예측(selective prediction)이 가능하게 된다. 또 AI는 잠재적으로 잘못된 대답을 하는 대신, 답이 틀렸다고 판단하면 “모른다”라는 답을 내놓을 수 있다.

어스파이어는 사전 훈련한 LLM을 미세조정해 응답을 생성할 뿐만 아니라 예측이 얼마나 확실한지 나타내는 신뢰도 점수를 표시한다. 특히 구글은 ‘소프트 프롬프트’ 조정을 통해 특정 목표에 맞게 모델을 조정하고, 모델이 생성한 응답에 대한 신뢰도를 평가하도록 했다.

소프트 프롬프트는 AI 모델의 임베딩 계층에 삽입하는 특별한 형태의 숫자열로, 모델의 입력 프롬프트와 함께 처리된다. 첫번째 소프트 프롬프트를 통해 추가적인 데이터셋이나 학습 없이 모델을 조정해 질문에 답하는 데 도움을 준 다음 두번째 소프트 프롬프트를 통해 학습된 자체 평가 점수를 계산해 모델이 특정 작업에 대한 예측이나 결정을 내리는 데 도움을 준다.

yongstyong

Recent Posts

한덕수 권한대행 사임 및 출마 기자회견 (2025-05-01)

한덕수 권한대행 사임 및 출마 기자회견 (2025-05-01) 내용 https://yongstyong.com/%EC%9D%B4%EC%9E%AC%EB%AA%85-%EC%84%A0%EA%B1%B0%EB%B2%95-%EC%9C%84%EB%B0%98-%EB%AC%B4%EC%A3%84%ED%8C%90%EA%B2%B0-%ED%8C%8C%EA%B8%B0%ED%99%98%EC%86%A1-2025-05-01/ 반응 댓글 고양이 뉴스에서 늘 하는 말이 있음 이 바닥에 우연은 없다  윤석열 내란 이후에 일어나는 모든 이상한 일은 절대 우연이 아님 누가봐도 짜고친거죠 지귀연때부터 짜여진 시나리오임 일단 판은 다 깔린거같고 투표나 잘해야것습니다…

16시간 ago

이재명 ‘선거법 위반’ 무죄판결 파기환송 (2025-05-01)

이재명 '선거법 위반' 무죄판결 파기환송 (2025-05-01) 내용 대법원은 1일 더불어민주당 이재명 대선 후보에게 무죄를 선고한…

16시간 ago

원더우먼 vs 월드클라쓰 (시즌7 G리그 B조 1R)

원더우먼 vs 월드클라쓰 (시즌7 G리그 B조 1R) G리그 도입 그룹 A, B 1~3위는 우승 토너먼트로 넘어감…

3일 ago

우희준 골때녀 원더우먼 합류

우희준 골때녀 원더우먼 합류 FC 원더우먼 NO.5우희준Woo Hee Jun포지션FW소속 팀FC 원더우먼 (시즌 7 ~ 현재)통산 기록리그1경기…

3일 ago

김사랑 SNL 코리아 등장짤

김사랑 SNL 코리아 등장짤 가슴이 훤히 드러나는 화이트 컬러의 미니 드레스를 입고 등장한 김사랑은 변함없는…

6일 ago

김사랑 SNL 코리아 리부트 시즌 7 네번째 호스트

김사랑 SNL 코리아 리부트 시즌 7 네번째 호스트 https://youtu.be/2vx1VTZINyg?t=1  ‘SNL코리아 7’에서는 김사랑이 호스트로 출연해 크루들과…

6일 ago