마법사에게는 어떤 학생이 필요하고 어떤 종류의 AI가 필요합니까?

경고
이의를 제기할 내용이 있는 평론가 수 대비 조용히 불만족한 수의 비율이 기록적으로 높은 것으로 판단할 때, 많은 독자들에게는 다음 사항이 명확하지 않습니다.
1) 이 글은 순전히 이론적인 토론 글입니다. 암호화폐 채굴을 위한 도구 선택이나 두 개의 전구를 깜박이는 멀티바이브레이터 조립에 대한 실질적인 조언은 여기에 없습니다.
2) 이것은 대중적인 과학 기사가 아닙니다. 성냥갑의 예를 사용하여 튜링 기계의 작동 원리에 대한 모형에 대한 설명은 없습니다.
3) 읽기를 계속하기 전에 신중하게 생각하십시오! 공격적인 아마추어리즘의 자세가 당신에게 매력적입니까? 나는 내가 이해하지 못하는 모든 것을 뺍니다.
이 글을 읽지 않기로 결정하신 모든 분들께 미리 감사드립니다!

데몬은 시스템 자체에 의해 시작되고 직접적인 사용자 상호 작용 없이 백그라운드에서 실행되는 UNIX 클래스 시스템의 컴퓨터 프로그램입니다.

위키 백과

미취학 연령에도 마법사 견습생에 대한 동화를 들었습니다. 나는 다시 말하면서 그것을 반복할 것이다:

옛날, 중세 유럽 어딘가에 마법사가 살고 있었습니다. 그는 철제 걸쇠와 모서리가 달린 검은 송아지 가죽으로 제본된 큰 주문 책을 가지고 있었습니다. 마법사가 주문을 시전해야 할 때, 그는 항상 특별한 주머니에 넣어 벨트에 착용하고 다니는 커다란 철제 열쇠로 주문의 잠금을 해제했습니다. 마법사에게는 마법사를 섬기는 학생도 있었지만 그는 주문서를 보는 것이 금지되었습니다.

어느 날 마법사는 하루 종일 사업을 위해 떠났습니다. 그 학생은 집을 떠나자마자 테이블에 묶인 주문서가 놓여 있는 연금술 실험실이 있는 지하 감옥으로 달려갔습니다. 학생은 마법사가 납을 녹여 금으로 바꾸는 도가니를 집어 화로 위에 올려 놓고 불을 부채질했습니다. 납은 빨리 녹았지만 금으로 변하지 않았습니다. 그런 다음 학생은 마법사가 납을 녹인 후 매번 열쇠로 책의 잠금을 해제하고 오랫동안 책에서 주문을 속삭였다는 것을 기억했습니다. 학생은 잠긴 책을 절망적으로 바라보았고 그 옆에 마법사가 잊어버린 열쇠가 놓여 있는 것을 보았습니다. 그런 다음 그는 테이블로 달려가 책을 풀고 책을 펴고 첫 번째 주문을 큰 소리로 읽었으며 납을 금으로 변환하는 주문과 같은 중요한 주문이 확실히 첫 번째 주문이 될 것이라고 가정하고 음절별로 익숙하지 않은 단어를 조심스럽게 발음했습니다. .

그러나 아무 일도 일어나지 않았습니다. 리드는 변화를 원하지 않았습니다. 학생은 다른 주문을 시도하고 싶었지만 천둥소리가 집을 흔들었고, 학생이 방금 외운 주문에 소환된 거대하고 소름끼치는 악마가 학생 앞에 나타났습니다.
- 주문하다! - 악마가 으르렁거렸어요.
두려움 때문에 모든 생각이 학생의 머리에서 떠났고 그는 움직일 수도 없었습니다.
- 명령을 내리지 않으면 잡아먹겠다! - 악마는 다시 으르렁거리며 학생을 붙잡기 위해 거대한 손을 뻗었습니다.
절망에 빠진 학생은 가장 먼저 떠오르는 말을 중얼거렸습니다.
- 이 꽃에 물을 주세요.
그리고 그는 연구실 구석 바닥에 화분이 놓여 있는 제라늄을 가리키며, 꽃 위 천장에는 지하 감옥에서 햇빛이 거의 들어오지 않는 유일한 작은 창문이 있었습니다. 악마는 사라졌지만, 잠시 후 거대한 물통을 가지고 다시 나타났고, 그는 꽃을 뒤집어 물을 쏟아부었습니다. 그는 다시 사라졌다가 가득 찬 통으로 다시 나타났다.
“그만하면 됐어요.” 그 학생은 허리 높이까지 물속에 서서 소리쳤습니다.
그러나 분명히 욕망만으로는 충분하지 않았습니다. 악마는 물통에 물을 담아 운반하여 한때 물 아래 숨겨진 꽃이 서 있던 구석에 부었습니다. 악마를 쫓아내려면 특별한 주문이 필요했을 것입니다. 그러나 책이 놓인 탁자는 화로에서 떠다니는 재와 숯, 빈 레토르트, 플라스크, 의자, 검류계, 선량계, 일회용 주사기 및 기타 잔해물이 떠다니는 진흙탕 속으로 이미 사라졌으므로 학생이 찾는 방법을 알고 있더라도 필요한 주문을 그는 할 수 없었습니다. 물이 차오르고 있었고, 학생은 질식하지 않기 위해 테이블 ​​위로 올라갔습니다. 그러나 이것은 오랫동안 도움이되지 않았습니다. 악마는 체계적으로 계속해서 물을 운반했습니다. 마법사가 돌아왔을 때 그 학생은 이미 목까지 물에 잠겨 있었고, 집에 책의 열쇠를 잊어버렸다는 것을 알고 악마를 쫓아냈습니다. 동화의 끝.

명백한 것에 대해 곧바로. 학생의 타고난 지능(NI)으로 인해 모든 것이 명확한 것처럼 보일 것입니다. 어리석은 일이라면 더 멍청한 것을 오랫동안 찾아야 합니다. 하지만 악마의 지능은 어떤 종류의 지능을 가지고 있습니까? EI입니까, 아니면 AI입니까? – 모호하다. 다양한 버전이 합법적입니다(또한 이에 대한 질문도 발생합니다).

버전 1) 악마는 학생보다 더 멍청합니다. 그는 명령을 받고 모든 의미가 사라지더라도 그것을 무기한 수행할 것입니다. 물을 주는 대상인 꽃이 사라지고, 꽃의 좌표가 부착된 각도가 사라지고, 행성 지구가 사라지고, 멍청한 악마는 계속해서 물통에 담긴 물을 우주 공간의 특정 지점까지 전달할 것입니다. 그리고 이 시점에서 초신성이 폭발한다면 악마는 물을 어디로 운반할지 신경 쓰지 않습니다. 게다가, 거대한 통에서 작은 꽃에 물을 주려면 얼마나 멍청해야 합니까? 이것은 이미 꽃에 물을 주지 않고 꽃을 익사시킨다고 합니다. 그는 명령의 의미를 이해하고 있을까?

버전 2) 악마는 모든 것을 이해하지만 의무에 묶여 있습니다. 그래서 그는 이탈리아 파업과 같은 일을 수행하고 있습니다. 모든 규정에 따라 공식적으로 쫓겨날 때까지 그는 멈추지 않을 것입니다.

질문 1 - 버전 1,2) 버전 1에 따른 완전히 멍청한 악마와 버전 2에 따른 전혀 멍청하지 않은 악마를 어떻게 구별할 수 있나요?
질문 2 - 버전 1,2) 악마가 (학생의 관점에서) 더 정확한 표현을 올바르게 수행했을까요? 예를 들어, 학생이 선반에 있는 빈 리터 플라스크를 가져다가 물을 채우고 꽃이 핀 곳에 물을 한 번만 준다고 말했습니다. 또는 예를 들어 학생이 다음과 같이 말한 경우: 저리 가세요.

버전 3) 마법사는 악마에게 추가 주문을 걸었습니다. 이에 따라 마법사가 아닌 다른 사람이 악마의 서비스를 사용하는 경우 악마는 즉시 마법사에게 이 사실을 알려야 합니다.

버전 4) 악마는 마법사와 그의 학생에 대해 원한을 품지 않았기 때문에 상황이 통제 불능이라는 것을 알고 통을 들고 움직이는 동안 마법사의 등 뒤에 나타나서 짖었습니다. “집에서 열쇠를 잊어 버렸습니다. , 홍수가 났습니다.” 그러나 마법사 자신은 기억하지 못했을 것이다.

버전 1에 대한 참고 4) EI 캐리어의 메모리가 매우 불완전하다는 점은 특히 주목할 가치가 있습니다.

추가 버전은 "피보나치 토끼"처럼 곱해질 수 있습니다. 그다지 복잡한 알고리즘은 아닙니다. 예를 들어:
버전 5) 악마는 학생을 방해한 것에 대해 복수합니다.
버전 6) 악마는 학생에게 원한을 품지 않고 마법사에게 복수합니다.
버전 6) 악마는 모든 사람에게 복수합니다.
버전 7) 악마는 복수하지 않고 재미있게 지냅니다. 피곤해지면 끝납니다.
등등

따라서 악마에 대해서는 명확한 것이 없다는 것이 분명합니다. 마법사와 함께하는 것이 더 나을 수 없습니다. 당신은 더 적은 버전을 생각해 낼 수 있습니다. 그는 호기심 많은 코를 사방에 찌르는 학생에게 의도적으로 수업을 가르치기로 결정했습니다. 그는 학생을 익사시키고 싶었지만 악마가 홍수에 대해 짖었을 때 겁을 먹었습니다. 갑자기 지나가는 사람 중 한 명이 듣고 마법사에게 의심이 생길 것입니다. 주문 등에 대한 학생의 관심을 일깨우고 싶었습니다.

여기서 유치한 질문이 가능합니다. 제안된 버전 중 어느 것이 올바른가요? 분명히. 다른 버전보다 특정 버전을 선호하기 위해 이야기에서 사용되지 않은 정보가 남아 있지 않습니다. 여기서 우리는 모호한 해석 가능성이 있는 상당히 일반적인 예술 작품 사례를 다루고 있습니다. 예를 들어, 감독이 이 동화를 극장에서 상연하거나 이를 바탕으로 영화를 만들고 싶다면 자신의 관점에서 가장 매력적인 해석을 선택할 수 있다. 다른 감독은 다른 해석이 매력적이라고 ​​생각할 수도 있다. 동시에 매력은 추가적인 고려 사항에 의해 결정될 수 있습니다. 예를 들어 최대 흥행 수익을 보장하기 위한 시청자의 매력 또는 일부 슈퍼 아이디어를 보여주는 매력, 즉 선이 악에 대한 승리라는 아이디어, 의무에 대한 생각, 반항적 인 생각 - 예를 들어 Dostoevsky에 따르면 Raskolnikov와 같은 학생은 "그가 떨리는 생물인지 아니면 권리가 있는지"등의 질문을합니다.

또 다른 질문이 생깁니다.
질문 하나 더). AI를 가지고 있는 우리 자신이 항상 의식적으로 음성 버전 중 하나를 선택할 수 없다면 AI에게 음성 버전 중 하나를 선호하도록 어떻게 가르칠 수 있습니까?

마법사로 돌아가서, 그가 금지된 책에 코를 찌르지 않고 요청받지 않은 곳에 코를 찌르지 않도록 악마처럼 충실하고 순종적인 학생을 원했던 버전은 매우 그럴듯해 보입니다. 이제 AI에서도 같은 일을 원하는 경우가 많습니다. 언뜻보기에 이는 모든 기계에 대한 일반적인 전통적인 요구 사항입니다. 완전한 순종, 불순종은 용납되지 않습니다. 그러나 AI의 경우 버전 1,2(위 참조) 문제가 발생할 수 있습니다. AI는 퇴보하고 있습니다. 하드웨어는 제작자와 소유자에 대해 원하는 대로 생각할 수 있지만 AI와 관련된 작업은 수행하지 않습니다. AI 대신에 우리는 어리석은 원시적 자동인형을 얻게 될 것입니다. 이로부터 의심이 들어옵니다. 아마도 마법사는 학생을 악마처럼 어리석은 연기자로 만들고 싶지 않았을 것입니다. 저것들. 한계가 있는 AI라는 아이디어가 등장한다. 여기에서는 EI 분야에서도 모든 것이 훨씬 더 어렵습니다. "아버지와 아들", "선생님과 학생", "상사와 부하"의 영원한 갈등을 기억하십시오.

이전 가능한 정의 중에서 AI의 정의를 선택할 때 나는 다음과 같이 언급했습니다.

수만 단어를 알파벳순으로 정렬하는 작업은 사람에게 지루할 것이며, 수행하는 데 오랜 시간이 걸리며, 평균 수준의 책임을 가진 일반 수행자에게는 오류가 발생할 확률이 상당할 것입니다. 최신 컴퓨터는 매우 짧은 시간(몇 초) 내에 오류 없이 이 작업을 수행합니다.

나는 다음과 같은 정의를 내렸습니다. AI에는 컴퓨터가 인간보다 훨씬 더 어려운 작업을 포함합니다..

이 정의는 위에 표현된 고려 사항을 고려하고 실습에 편리합니다. 동시에 "컴퓨터가 인간보다 눈에 띄게 더 나쁘게 해결하는" 작업 목록이 현재와 20년 전과 다르기 때문에 이상적이지는 않습니다. . 그러나 제 생각에는 아직까지 이보다 더 완벽한 정의를 내린 사람은 없습니다.

위의 내용은 기사 시작 부분의 다이어그램을 통해 순전히 질적으로 설명됩니다. "기술" 좌표축에서 XNUMX(XNUMX 및 약간 그 이상) 영역의 기술은 사람이 컴퓨터보다 우수한 기술(예: 비표준 결정을 내리는 능력)에 해당합니다. XNUMX(XNUMX 이하) 영역의 기술은 컴퓨터가 사람보다 우수한 기술, 즉 계산 능력, 기억력에 해당합니다. "우월성" 좌표축에 기존 단위와 동일한 최대 우월성을 배치하면 단위 사각형의 대각선 형태로 인간과 컴퓨터의 기술에 대한 우월성의 의존성을 얻습니다. 현재 상황은 이렇습니다. 강한 AI가 모든 스킬을 최대로 발휘하는 것이 가능합니까(빨간색 선)? 아니면 더 높은 수준(슈퍼 AI - 파란색 선)인가요? 아마도 진보라는 중간 목표는 강하지 않아야 할 것입니다.
약한 AI(보라색 선)는 여러 스킬에서 AI보다 열등하지만 지금만큼은 아닙니다.

문학 동화 모델로 돌아가서 우리는 모든 영웅이 최선의 방법으로 수행하지 않았다고 말할 수 있습니다. 서투른 마법사는 열쇠를 잊어 버리고 던전에 홍수가 났고 학생은 어리 석음과 부주의로 인해 많은 것을 받았습니다. 극심한 인상을 받고 거의 익사할 뻔한 악마는 아무런 감사도 없이 쫓겨났습니다. 악마의 지능에 관해서는 그를 AI인지 EI로 명확하게 분류하기가 어렵다는 것이 이미 언급되었지만 다른 악마의 지능은 (인상적이지는 않지만) 분명히 EI에 속합니다. 결정에 위험한 실수를 하고, 부주의하고, 필요한 것을 잊어버리고, 피곤해지는 것이 그들의 주요 고유 특성이라고 말할 수 있습니다. 불행하게도 이러한 속성은 어느 정도 다른 모든 EI 캐리어에 내재되어 있습니다. UI의 단어나 숫자를 정렬하는 것이 신뢰할 수 없다는 점은 위에서 이미 언급했지만 훨씬 더 간단한 작업처럼 보일 수 있습니다. 단순히 숫자를 기억하는 것만으로도 사람들에게는 매우 어려운 일이 됩니다. 기계의 경우 파이 숫자를 기억하는 능력은 메모리 크기에 의해서만 제한되며 대부분의 사람들은 기억술, '나는 서클에 대해 무엇을 알고 있나요?' "3,1416" 줄은 지정된 니모닉보다 문자 수가 적은 것처럼 보이지만 어떤 이유로 사람들은 덜 경제적인 방법으로 기억하는 것을 선호합니다. 그리고 더 이상:

숫자 뒤의 숫자, 행운을 알아차리는 방법을 배우고 알아보세요.

우리가 실수하지 않도록,
정확하게 읽어야 함
셋, 열넷, 열다섯
아흔 둘과 여섯

무지개의 색깔을 기억하려면:

모든 디자이너는 Photoshop을 어디서 다운로드할 수 있는지 알고 싶어합니다.

그리고 주기율표의 시작 부분은 다음과 같습니다.

천연수(수소)를 겔(헬륨)과 섞어서(리튬) 부어넣었습니다. 예, (베릴륨)을 소나무 숲 (붕소)에 부어 넣으면 네이티브 코너 (탄소) 아시아 (질소)가 엿보이고 XNUMX 차 (불소)가 나올 정도로 신맛 (산소)이 없습니다. 보고 싶다. 하지만 우리는 그(네온)가 필요하지 않았기 때문에 XNUMX(나트륨)미터 떨어진 곳으로 이동하여 결국 목련(마그네슘)에 이르렀고, 그곳에서 미니(알루미늄) 스커트를 입은 알리야는 인(인)이 함유된 크림(실리콘)이 묻어 있었습니다. 그녀가 세라(세라)이기를 멈추도록. 그 후 알리야는 염소(염소)를 가져다가 아르고호 선원들의 배(아르곤)를 씻어냈다.

그런데 왜 그렇게 완벽한 EI에 그렇게 명백한 결함이 있는 걸까요? 아마도 가장 단순한 사실을 잊는 능력 덕분에 사람은 자신의 생각 조각을 임의의 야생 순서로 결합하고 비표준 솔루션을 찾을 자유를 얻게 될까요? 그렇다면 Strong-AI는 불가능하다. 그는 사람처럼 잊어 버리거나 비표준 솔루션을 사용할 수 없습니다. 어쨌든, 위의 가정으로부터 AI의 목표를 구별할 필요가 있습니다. 목표 중 하나는 AI의 모델링이고 다른 하나는 강력한 AI의 생성입니다. 하나를 달성하면 다른 하나를 달성하지 못할 수도 있습니다.

보시다시피 AI 분야에는 답이 모호한 질문이 너무 많아 어느 방향으로 나아가야 할지 불분명합니다. 그러한 경우에 발생하는 것처럼, 그들은 동시에 모든 방향으로 이동하려고 합니다. 동시에, 수학적으로 엄격한 공식이 부족하기 때문에 철학과 예술적, 문학적 모델링으로 전환해야 합니다. 이 방향의 가장 유명한 사례 중 하나는 AI의 권위자 중 한 명인 Marvin Lee Minsky와 유명한 SF 작가 Harry Harrison이 쓴 책 "Turing Selection"(1992)입니다. 나는 아마도 위에서 설명한 니모닉 현상을 설명하면서 이 책을 인용할 것입니다.

인간의 기억은 모든 것을 시간순으로 기록하는 녹음기가 아닙니다. 그것은 완전히 다르게 구성되어 있습니다. 오히려 혼란스럽고 모순된 색인을 갖춘 엉성하게 관리되는 카드 색인과 같습니다. 혼란 스러울뿐만 아니라 때때로 개념 분류 원칙을 변경합니다.

다른 문학 작품인 Stanislaw Lem의 이야기 "Terminus"("Stories about the Pilot Pirx" 시리즈에서)에서 테이프 레코더 비유에 대한 흥미로운 해석입니다. 일종의 "지능형 테이프 레코더"의 경우는 다음과 같습니다. 한때 사고를 당한 오래된 우주선의 오래된 로봇이 두드리는 작업과 함께 지속적인 수리 작업에 참여하고 있습니다. 그러나 자세히 들어보면 이것은 단순한 백색 기술 소음이 아니라 죽어가는 배의 승무원 간의 대화인 모스 부호의 녹음입니다. Pirx는 이러한 협상에 개입하고 예기치 않게 오랫동안 죽은 우주비행사로부터 응답을 받습니다. 원시 수리 로봇은 어떤 방식으로든 의식의 사본을 저장하는 것으로 나타났습니다. 아니면 조종사 Pirx의 인식에 대한 인지 왜곡입니까?

또 다른 이야기인 "Ananke"(동일 시리즈)에서는 우주 수송기의 제어 컴퓨터에 있는 EI의 복사본이 테스트 작업에 대한 편집증적인 과부하로 이어져 재앙으로 끝납니다.

이야기 "사고"에서, 과도하게 의인화되어 프로그래밍된 로봇은 여가 시간에 결정한 등산의 결과로 사망합니다. 그런 공연자가 필요합니까? 그러나 꽃에 물을 주는 데 집착하는 악마도 항상 필요한 것은 아닙니다.

AI 분야의 일부 전문가들은 이러한 '철학화'와 '문학적'을 좋아하지 않지만 이러한 '철학화'와 '문학적'은 전통적으로 AI 분석에 내재되어 있으며 AI를 AI와 비교하는 한 필연적이며 심지어 AI가 AI를 복사하려고 하는 한 더욱 그렇습니다.

결론적으로 발생한 여러 문제에 대한 설문 조사입니다.

등록된 사용자만 설문 조사에 참여할 수 있습니다. 로그인제발

1. AI에는 컴퓨터가 인간보다 훨씬 더 어려운 작업을 포함합니까?

• Да

• 아니

• 나는 그 정의를 더 잘 알고 있다. 댓글로 알려드리겠습니다.

• 대답하기 어려움

34명의 사용자가 투표했습니다. 7명의 사용자가 기권했습니다.

2. AI는 집행자만 되어야 하나요? 모든 명령을 문자 그대로 받아들여야 하나요? 예를 들어, 그들은 꽃에 물을 주라고 말했습니다. 이는 그들이 당신을 쫓아낼 때까지 물을 주는 것을 의미합니다.

• Да

• 아니

• 대답하기 어려움

37명의 사용자가 투표했습니다. 6명의 사용자가 기권했습니다.

3. 모든 스킬이 최대가 되는 강력한 AI가 가능할까요(글 시작 부분 그림의 빨간색 선)?

• Да

• 아니

• 대답하기 어려움

35명의 사용자가 투표했습니다. 7명의 사용자가 기권했습니다.

4. 슈퍼 AI도 가능한가요(글 시작 부분 사진의 파란색 선)?

• Да

• 아니

• 대답하기 어려움

36명의 사용자가 투표했습니다. 7명의 사용자가 기권했습니다.

5. 중간 목표는 강하지 않아야 하지만 완전히 약한 AI(기사 시작 부분 그림의 보라색 선)도 아니어야 합니다. AI는 여러 기술에서 AI보다 열등하지만 지금만큼은 아닙니다. ?

• Да

• 아니

• 대답하기 어려움

33명의 사용자가 투표했습니다. 5명의 사용자가 기권했습니다.

6. 결정 시 위험한 실수를 저지르고, 부주의하고, 필요한 것을 잊어버리고, 피곤해지는 것이 EI의 주요 고유 특성입니까?

• Да

• 아니

• 저는 다른 의견을 갖고 있는데, 그 의견은 댓글로 알려드리겠습니다.

• 대답하기 어려움

33명의 사용자가 투표했습니다. 5명의 사용자가 기권했습니다.

7. 가장 단순한 사실을 잊는 능력 덕분에 사람은 자신의 생각 조각을 임의의 야생 순서로 결합하고 비표준 솔루션을 찾을 수 있는 자유를 얻습니다.

• Да

• 아니

• 저는 다른 의견을 갖고 있는데, 그 의견은 댓글로 알려드리겠습니다.

• 대답하기 어려움

31명의 사용자가 투표했습니다. 4명의 사용자가 기권했습니다.

8. AI를 모델링하는 것과 강력한 AI를 만드는 것은 서로 다른 방법으로 해결할 수 있는 두 가지 다른 작업입니까?

• Да

• 아니

• 저는 다른 의견을 갖고 있는데, 그 의견은 댓글로 알려드리겠습니다.

• 대답하기 어려움

32명의 사용자가 투표했습니다. 4명의 사용자가 기권했습니다.

출처: www.habr.com