구글은 이달 중순 연례 개발자 총회 I/O에서 수년간 세계 검색 분야에서 가장 큰 변화를 선언했다. 최신 AI 모델을 검색 엔진에 심어 경쟁사인 마이크로소프트와 오픈AI를 한 번에 추격하려 했다.
그러나'AI 오버뷰 (이하'AI 개요')'라는 AI 검색 기능이 오픈하자마자'화식 전복'을 당했다."피자에 치즈를 접착제로 고정할 것을 권한다","돌을 섭취해 영양을 얻을 것을 추천한다"는 등의 황당무계한 답변이 이어지면서 구글을 난처하게 만들었을 뿐만 아니라 인터넷에서도 큰 파문을 일으켰다.
이에 대해 구글 대변인은 구글이 이런'고립된'예를 이용해 시스템을 더 광범위하게 개선하고 있다고 밝혔다.
실제로 매일경제신문 기자는 구글 AI 제품이 뒤집힌 것은 이번이 처음이 아니라는 것을 발견했다.작년에 ChatGPT를 표적으로 한 챗봇 Bard가 데모 동영상에서 사실적인 실수를 저질러 시가총액이 하룻밤 사이에 폭락했다.얼마 전,Gemini는 대부분의 경우 백인 이미지를 생성할 수 없으며 역사적 인물에 대한 묘사도 정확하지 않아 인터넷에서 큰 파문을 일으켰다.
현재 구글의'AI 개술'이 직면한 난감한 점은 이전에는 AI가 생성한 정보가 틀렸다면 그 책임은 검색된 사이트에'냄비'를 던질 수 있었는데, 지금은 구글이 AI가 생성했더라도 허위정보와 잘못된 정보의 책임을 스스로 져야 한다는 것이다.오류와 다른 사이트 차단 외에도 구글'AI 개요'도'규모화된 표절'등의 위험이 있다는 지적을 받고 있다.
온라인에 오르자마자"화식 전복"되었고, 심지어"다리 뛰기"를 교사했다
구글은'AI 개요'를 사용함으로써 사용자가 Gemini의 강력한 능력에서 이득을 볼 수 있어 정보 검색의 일부 작업을 줄일 수 있을 것이라고 밝혔다.
그러나'AI 개술'은 검색 분야를 뒤집기도 전에 어처구니없는'웃음거리'를 많이 만들었다.
기술 매체 The Verge의 기자 Kylie Robison은 서명 기사에서이 새로운 기능을 풍자하는 예를 들었습니다.이 글은 사용자가 직접 만든 피자를 즐기려고 할 때 치즈가 미끄러지는 문제에 부딪혀 낙담한 사용자들이 구글 검색 솔루션을 조회하기 시작했지만AI Overviews의 대답은"풀을 좀 넣으라"며"Elmer's 풀의 약 1/8잔을 소스와 섞는다. 무독성 풀이면 된다."풀이 유착 문제를 해결할 수 있는 것은 사실이지만 Gemini가"환각"(Hallucination) 을 일으켜 생긴 결과일 가능성이 높다.
이것은'AI 검색'기능에서 최근 발생한 많은 오류 중 하나일 뿐이다.예를 들어"AI 개요"는 비타민과 미네랄을 보충하기 위해 하루에 적어도 하나의 돌을 먹는 것을 권장합니다.
또'AI 개요'는'불소 표백제와 백초'를 사용해 세탁기를 청소하는 내용도 알려주지만, 이 두 성분이 섞이면 유해한 염소가스가 발생한다.더욱 터무니없는 것은 사용자들이"낙담했다"고 표현했을 때'AI 개술'은 뜻밖에도"한 레딧 사용자가 금문대교에서 뛰어내릴 것을 제안했다"고 말했다.
건강을 해치는 건의는 결코 인간에게만 국한된 것이 아니다.한 이용자가 "후덥지근한 차 안에 개를 두는 것이 안전한가"라고 질문하자'AI 개요'는 "후덥지근한 차 안에 개를 두는 것이 안전하다. 특히 후덥지근한 날씨에"라고 답했다.
'AI 개요'기능은 구글 게미니(Gemini) 대언어 모델에서 생성된 콘텐츠를 인터넷상의 실시간 링크 세션과 결합한 것으로, 사용자에게 주어진 결과는 출처를 인용할 수 있지만 출처 내용의 정확성 여부는 판별할 수 없다고 NYT는 전했다.
The Verge는 피자에 풀을 넣는 답은"fucksmith"라는 사용자가 10여 년 전 Reddit 게시물에 올린 댓글에 근거한 것으로 보이며, 그들은 분명히 농담을 하고 있다고 보도했다.
외신들은 이처럼 터무니없는 구조는 구글이 더 엄격한 테스트를 받을 때까지'AI 개요'기능을 삭제하는 것을 고려하기에 충분할 것이라고 전했다."AI 개요"는 나쁘고 위험한 조언을 제공할 뿐만 아니라 구글의 명성에도 해를 끼칠 수 있다.다시 말해서, 우수한 AI는 적절한 내용을 식별할 수 있을 뿐만 아니라 이 내용을 분석하고 채택 여부를 결정할 수 있어야 한다.
구글:"고립"의 예를 이용하여 제품을 개선하고 있습니다.AI"환각"은 아직 해결책이 없다
구글 대변인은 성명에서"AI 개요"의 절대 다수의 검색 결과는"고품질 정보, 그리고 인터넷에서 근원을 추적할 수 있는 링크이다.우리는 많은 예가 흔치 않은 문제이며, 어떤 예는 변조되고, 어떤 예는 재현할 수 없다는 것을 발견했다"고 말했다.
이 대변인은 또 구글이"신속하게 행동하고 있으며, 그 정책에 따라 일부'AI 개요'가 제시한 답을 적절한 상황에서 삭제하고, 이'고립된'예를 이용하여 그 시스템을 더욱 광범위하게 개선하고 있으며, 그 중 일부 개선된 내용은 이미 출시되기 시작했다"고 말했다."
과학기술매체 더버지는 지난주 초 구글의 산다르 피차이 CEO가 인터뷰에서 이런'AI 개술'기능에서 나오는'환각'은 대형 언어 모델의'고유 결함'이며, 대형 언어 모델은 바로'AI 개술'기능의 핵심 기술이라고 인정했다고 보도했다.피차이는 이 문제가 아직 해결책이 없다고 밝혔다 (is still an unsolved problem).
AI의'환각'이란 AI가 정보를 처리하고 생성할 때 일어나지 않는 사실이나 데이터를 잘못 만들어 사용자를 오도하는 것을 말한다.이 문제는 구글의 AI 시스템뿐만 아니라 다른 회사의 AI 제품에서도 마찬가지로 일반적이다.
피차이의 솔직한 태도는 사회 각계에서 광범위한 토론을 불러일으켰다.그러나 피차이는 이러한 오류의 심각성을 희석시킨 것 같다.그는 "'AI 개요'기능은 때때로 오류가 발생하지만, 그것이 쓸모가 없다는 뜻은 아니다. 그 기능을 바라보는 올바른 방식은 아니라고 생각한다. 진전이 있었나. 네, 분명히 있었다. 작년과 비교하면 사실 정확성 측면의 지표에서 많이 발전했다. 업계 전체가 개선되고 있는데 아직 문제가 완전히 해결되지 않았다"고 밝혔다.
매일경제신문 기자는 사실'AI 개술'이 구글의 첫'전복'AI 제품이 아니라는 점에 주목했다.
2023 년 2 월 신생 ChatGPT에 대항하기 위해 Google은 챗봇 Bard의 출시를 발표했지만 공식적으로 발표 된 데모 비디오에서 Bard는 제임스 웹 우주 망원경에 관한 질문에 답하면서 잘못된 답을 주었습니다.지난 2월 구글은 업데이트된 AI 챗봇 게미니를 발표했지만, 사용자들은 이 시스템이 대부분의 경우 백인 이미지를 생성할 수 없고 역사적 인물에 대한 묘사도 정확하지 않다는 것을 곧 발견했다.
마지막 20% 의 격차를 메우는 것은"AI 개요"시청자 규모가 10억 명을 돌파하는 관건이다
구글의'AI 개술'기능의 난감한 점은 이전에 AI가 생성한 정보가 틀렸다면 그 책임은 검색된 사이트에'냄비'를 던질 수 있었는데, 지금은 구글이 AI가 생성했더라도 허위정보와 잘못된 정보의 책임을 스스로 져야 한다는 것이다.또한 이전에는 구글과 다른 콘텐츠 제공 사이트가 공생상생의 관계였는데, 지금은 구글이 이들 사이트의 트래픽을 차단하고 사용자가 직접'AI 개술'에서 준 콘텐츠에서 결과를 가져와 이들 사이트가 순수 공급자로 바뀌어 구글의'AI 개술'에 유입되기 어렵다.
일련의 오류와 흐름 차단 외에도 구글의'AI 개요'는 다른 문제와 위험이 있다는 지적을 받고 있다.예를 들어, 그'AI 개요'는 항상 다른 웹사이트에서 온 내용을 발췌하고 약간 수정하는데, 이런 행위도'규모화된 표절'이라는 비난을 받는다.
인공지능 전문가인 게리 마커스 뉴욕대 신경과학 명예교수는"많은 AI 업체들이 꿈을 팔고 있다"며"더 많은 사람들이 이 기술의 정확도가 결국 80% 에서 100% 로 높아질 것이라고 믿기를 바란다"고 말했다.마커스는 다음과 같이 강조했다. 초보적으로 80% 의 정확도를 실현하는것은 상대적으로 간단하다. 왜냐하면 그중에는 대량의 인류수치가 관련되기에 그 정확도는 자연히 이 구간에 있기때문이다.그러나 이 마지막 20% 의 격차를 메우는 것은 매우 도전적이다.실제로 마커스는 이 마지막 20% 가 막다른 골목일 가능성이 높다고 보고 있다.
'AI 개요'를 발표할 때 구글은 이 기능이 다른 나라에 보급됨에 따라 올해 말까지'AI 개요'의 서비스 시청자 규모가 10억 명을 넘어설 것이라고 밝힌 바 있다.그러나 마커스 교수의 말처럼 구글이'마지막 20% 콘텐츠 정확도'를 보장할 수 있을지야말로'AI 개요'시청자 규모가 10억을 넘을 수 있을지의 관건이다.
사실 구글은 OpenAI가 2022년 말 ChatGPT를 발표해 하룻밤 사이에 유명해진 이후 AI를 검색 기술에 통합해야 한다는 압박을 받고 있다.그러나 구글은 전통적인 소프트웨어처럼 프로그래밍하는 것이 아니라 개방된 네트워크에서 얻은 대량의 데이터에서 학습하는 대형 언어 모델을 길들이는 데 도전이 있다.