AI가 높은 성과를 낼 수 없는 이유를 보여줌

서프라이즈, 서프라이즈. AI에 대한 모든 기대와 우려가 머지않아 인간의 지능과 일치하거나 이를 뛰어넘는 가운데, AI는 1950년대 이후 거의 진전을 이루지 못했다는 사실이 밝혀졌습니다.

최신 및 최고의 대형 언어 모델을 기반으로 하는 ChatGPT 및 유사한 챗봇은 여전히 ​​이를 이해하지 못합니다. 즉, 의미 모호성 테스트에 실패합니다.

지원 서비스 개념을 위한 Chatbot 기호입니다.

1950년대 초 기계 번역의 선구자인 Yehoshua Bar-Hillel에 대한 이전 게시물에서 나는 1967년 미국 사이버네틱스 협회의 제1차 연례 심포지엄에서 그가 사자와 컴퓨터를 길들이는 것에 관해 이야기한 이야기를 언급했습니다. Hillel은 또한 "기계 지능"에 대한 세 가지 요구 사항을 나열했습니다. 언어를 조작하는 능력; 세상에 대한 배경 지식을 가지고 있습니다. 추론 및 컴퓨팅 능력은 모두 고등학교 졸업자 수준입니다. Bar-Hillel은 이러한 인공 지능의 전제 조건을 달성하기 위해 필요한 노력은 "인간을 금성에 두는 데 필요한 노력보다 비교할 수 없을 정도로 클 것"이라고 말했습니다.

15년 전인 1952년 6월 MIT에서 조직한 기계 번역 회의의 개회사에서 Bar-Hillel은 훨씬 더 낙관적이었습니다. 인간 번역가보다 더 빠르지도, 저렴하지도, 더 정확하지도 않다는 점에서, 현재 또는 가까운 미래의 조건 하에서 나는 이 연구가 계속될 것을 강력히 주장합니다. 전자 기계는 의심할 바 없이 더 저렴해질 것이고, 인간의 두뇌는 아마도 더 비싸질 것입니다.”

그러나 1955년에 Bar-Hillel은 매우 비관적으로 변했습니다. 그는 "완전 자동 고품질 번역의 실현 불가능성에 대한 입증"에서 컴퓨터에 의한 고품질 번역은 "가까운 미래에 실현되지 않을 꿈일 뿐"이라고 썼습니다. Bar-Hillel은 "이 목표의 실질적 무익함"을 인식하지 못하는 기계 번역 연구자들은 "오늘날 원리가 잘 이해되고 있는 부분적으로 자동화된 번역 시스템에 만족하지 않고" 후원자들에게 오해를 불러일으켰다고 썼습니다. “믿고 믿게 된 진짜가 바로 눈앞에 다가왔습니다.”

OpenAI가 최근 발표에서 말했듯이, "인류가 발명한 가장 영향력 있는 기술"인 초지능 AI가 10년 안에 도래할 수 있으며 "인류의 무력화 또는 심지어 인간 멸종으로 이어질 수 있습니다."

Bar-Hillel이 고품질 기계 번역이라는 꿈을 추구하는 것이 무익함을 보여주기 위해 자신의 논문에서 사용한 예는 다음과 같습니다.

그 상자는 펜 안에 들어 있었습니다.

그리고 이 문장이 취해진 언어학적 맥락은 다음과 같습니다.

꼬마 존은 장난감 상자를 찾고 있었습니다. 마침내 그는 그것을 발견했습니다. 그 상자는 펜 안에 들어 있었습니다. 존은 매우 기뻤습니다.

Bar-Hillel은 의미론적 모호성의 예를 다음과 같이 설명합니다.

단순화를 위해 영어에서 펜은 (1) 특정 필기 도구, (2) 어린 아이들이 놀 수 있는 인클로저라는 두 가지 의미만을 갖는다고 가정합니다. 나는 이제 기존의 또는 상상할 수 있는 어떤 프로그램도 전자 컴퓨터가 주어진 문맥 내에서 주어진 문장에 있는 펜이라는 단어가 위의 의미 중 두 번째 의미를 갖는지 결정할 수 있는 반면, 영어에 대한 충분한 지식을 가진 모든 독자는 이 작업을 "자동으로" 수행할 수 없다고 주장합니다. ."

다른 기계 번역 연구자들이 제안한 솔루션을 논의하면서 Bar-Hillel은 다음과 같이 말합니다. “충분히 큰 언어 환경을 고려하면 주어진 단어의 의미적 모호성을 줄이는 데 충분하다는 것은 오래된 편견이지만 그럼에도 불구하고 편견입니다. ”

그게 1950년대 자연어 처리(NLP)의 상태였습니다. 그러나 나는 셀 수 없이 많은 텍스트에 대해 훈련을 받고 이를 (병렬) 처리할 수 있는 오늘날의 LLM(대형 언어 모델)이 "언어적 맥락"을 얻고 항상 올바르게 얻을 것이라고 확신했습니다.