警告
從默默不滿的人數與持反對意見的評論者的比例創歷史新高來看，許多讀者並不明顯地意識到：
1）這是一篇純理論討論文章。 這裡不會提供關於選擇挖掘加密貨幣的工具或組裝多諧振盪器來閃爍兩個燈泡的實用建議。
2）這不是一篇科普文章。 不會使用火柴盒的例子來解釋圖靈機的工作原理。
3）繼續閱讀前請仔細思考！ 咄咄逼人的業餘態度對你有吸引力嗎：我減去了所有我不理解的東西？
預先感謝所有決定不閱讀本文的人！
守護程序是 UNIX 類系統上的電腦程序，由系統本身啟動並在背景運行，無需直接使用者互動。
即使在學齡前，我也聽過一個關於魔法師學徒的童話故事。 我將在複述中重複一遍：
從前，在中世紀歐洲的某個地方，住著一位巫師。 他有一本厚厚的咒語書，用黑色小牛皮裝訂，有鐵扣和鐵角。 當巫師需要施展咒語時，他用一把大鐵鑰匙打開它，他總是把鑰匙放在腰帶上的一個特殊的袋子裡。 魔法師還有一名侍奉魔法師的學生，但他被禁止查看咒語書。
有一天，巫師出差了一整天。 學生一離開家，就衝進了地牢，那裡有一個煉金實驗室，裡面的桌子上拴著一本咒語書。 學生抓起巫師將鉛熔化成金的坩堝，將它們放在火盆上並煽動火。 鉛很快就熔化了，但沒有變成金子。 然後學生想起，巫師每次融化鉛後，都會用鑰匙打開書本，低聲念出很長時間的咒語。 學生絕望地看著鎖著的書，發現旁邊放著一把被巫師遺忘的鑰匙。 然後他衝到桌前，打開書本，打開，大聲念出第一個咒語，一個個音節小心翼翼地念著陌生的單詞，以為鉛化金咒這樣重要的咒語一定是第一個。 。
但什麼也沒發生：領導者不想轉型。 學生想要嘗試另一個咒語，但隨後一聲雷鳴震動了房子，一個巨大的、令人毛骨悚然的惡魔出現在學生面前，被學生剛剛背誦的咒語召喚出來。
- 命令！ - 惡魔咆哮道。
由於恐懼，所有的想法都離開了學生的頭腦，他甚至無法動彈。
- 下命令，不然我就吃掉你！ ——惡魔再次咆哮，伸出一隻巨手，向學生抓去。
絕望中，學生嘟囔著他首先想到的一句話：
- 給這朵花澆水。
他指著一盆天竺葵，實驗室角落的地板上放著一盆天竺葵；花上方的天花板上有地牢裡唯一的小窗戶，陽光幾乎無法穿透。 惡魔消失了，但片刻之後又出現了，手裡拿著一個巨大的水桶，他把花翻過來，把水倒了出來。 他再次消失，然後帶著裝滿的桶子再次出現。
「夠了，」學生站在齊腰深的水中喊道。
但顯然光有慾望是不夠的──惡魔把水裝在桶子裡提了又提，把水倒在曾經藏著一朵花的角落。 恐怕需要特殊的咒語才能趕走惡魔。 但放書的桌子已經消失在泥水中，裡面漂浮著火盆裡的灰燼和煤炭、空的蒸餾瓶、燒瓶、凳子、檢流計、劑量計、一次性注射器和其他雜物，所以即使學生知道如何找到所需的咒語，他做不到。 水位不斷上漲，學生爬到桌上以免被噎住。 但這並沒有持續太久——惡魔繼續有條不紊地挑水。 當魔法師回來時，學生已經被淹到脖子了，發現他把書的鑰匙忘在家裡了，於是趕走了惡魔。 童話故事的結局。
直接說顯而易見的事。 憑藉學生的自然智力（NI），似乎一切都很清楚——愚蠢，你必須尋找很長時間才能找到更愚蠢的東西。 但是惡魔的智力－順便問一下，他有什麼樣的智力：EI還是AI？ - 模糊的。 不同的版本都是合法的（也會出現關於它們的問題）：
版本1）惡魔比學生還笨。 他收到命令並將無限期地執行它，即使所有意義都消失了：花——澆水的對象——將消失，花的坐標所附著的角度將消失，地球將消失，而地球將消失。愚蠢的惡魔將繼續將桶裝水運送到外太空的某個地點。 如果超新星在此時爆發，那麼惡魔並不關心將水運到哪裡。 而且：你得有多蠢才能用大桶澆一朵小花？ 這已經叫不是澆花，而是淹了。 他到底明白命令的涵義嗎？
版本2）惡魔明白一切，卻被義務束縛。 所以他正在進行類似義大利罷工的行動。 直到他按照所有規則被正式踢出局之前，他都不會停下來。
版本 1 的問題 1,2) 如何區分版本 1 的完全愚蠢的惡魔和版本 2 的完全不愚蠢的惡魔？
版本 2 的問題 1,2）惡魔會正確地（從學生的角度）執行更精確的表達嗎？ 例如，如果一個學生說：拿起架子上的空升燒瓶，將其裝滿水並澆上一次開花的水。 或者，例如，如果學生說：走開。
版本3）巫師對惡魔施放額外的咒語，根據該咒語，如果巫師以外的人使用惡魔的服務，那麼惡魔必須立即告知巫師這一事實。
版本4）惡魔對巫師和他的學生並無怨恨，因此眼看事態已經失控，他提著木桶，出現在巫師的背後，咆哮道：“你們把鑰匙忘在家裡了。” ，有洪水。” 但巫師本人不會記得。
註1至版本4）特別值得注意的是，EI載體的記憶力非常不完整。
更多版本可以像“斐波那契兔子”一樣相乘，即不是一個非常複雜的演算法。 例如：
版本5) 惡魔因為打擾學生而向他報復。
版本6）惡魔對學生沒有怨恨，而是對巫師進行報復。
版本6）惡魔向所有人復仇。
版本7）惡魔不報仇，而是尋開心。 當他累了的時候就結束了。
等等。
所以，對於惡魔來說，顯然沒有什麼是清楚的。 和巫師在一起也不好。 你可以想出不少版本：他故意決定給一個到處探尋好奇鼻子的學生上一課； 他想淹死這個學生，但是當惡魔咆哮著洪水時，他感到害怕──突然有一個路人聽到了，那麼懷疑就會落在巫師身上； 想要喚醒學生對咒語等的興趣。
這裡可能會出現一個幼稚的問題：哪個提議的版本是正確的？ 顯然，任何。 故事中沒有任何未使用的資訊可以表明任何版本都優於其他版本。 在這裡，我們正在處理一個相當常見的藝術作品案例，可能會產生含糊的解釋。 例如，如果導演想將這個童話故事搬上劇院，或根據它拍成電影，他可以從自己的角度選擇最有吸引力的詮釋。 另一位導演可能會發現不同的解釋很有吸引力。 同時，吸引力還可以透過額外的考慮因素來確定，例如對觀眾的吸引力是為了確保最大的票房收入，或者是為了展示一些超級想法的吸引力：正義戰勝邪惡的想法，責任的想法，一種反叛的想法- 例如，根據陀思妥耶夫斯基的說法：像拉斯科利尼科夫這樣的學生，他會問“他是一個顫抖的生物還是他有權利”等問題。
另一個問題出現了。
還有一個問題）。 如果我們自己擁有人工智慧，但不能總是有意識地選擇其中一種語音版本，我們如何教人工智慧優先選擇其中一種語音版本？
回到巫師，他想要一個盡職盡責、聽話的學生，就像一個惡魔，這樣他就不會在沒有被問到的禁書上插手，這個版本看起來很合理。 現在人工智慧也經常需要同樣的東西。 乍一看，這些都是對任何機器的正常傳統要求：完全服從，不服從是不可接受的。 但就AI而言，可能會出現1,2版本（見上文）的問題，即人工智慧正在退化——硬體可以為它的創造者和所有者思考任何它想要的東西，但它不會執行任何與人工智慧相關的動作，即。 我們將得到一個愚蠢的原始自動機，而不是人工智慧。 由此產生了一種懷疑：也許巫師不想讓學生成為一個像惡魔一樣愚蠢的表演者？ 那些。 帶有局限性的人工智慧的想法出現了。 即使在人類智力領域，一切都變得更加困難：記住「父親和兒子」、「老師和學生」、「老闆和下屬」這些永恆的衝突。
在從可能的定義中選擇人工智慧的定義時，我指出：
按字母順序對數萬個單字進行排序的任務對於一個人來說是乏味的，需要花費很長時間才能完成，對於具有平均責任水平的普通執行者來說，出錯的機率將是很大的。 現代計算機將在很短的時間內（幾分之一秒）毫無錯誤地執行此任務。
我確定了以下定義： 人工智慧包括電腦解決的任務明顯比人類差的多.
這個定義考慮了上述考慮，方便實踐；同時，它並不理想，因為「電腦解決的問題明顯比人類差」的任務清單現在與20年前不同。 但是，在我看來，還沒有人提出一個更完美的定義。
以上是透過文章開頭的圖表純粹定性地說明的。 在「技能」座標軸上，零（零或稍多）區域的技能對應於人優於電腦的技能，例如做出非標準決策的能力。 XNUMX（XNUMX 或稍少）區域的技能對應於計算機優於人的技能：計算能力、記憶力。 將等於常規單位的最大優勢放在「優勢」座標軸上，我們以單位正方形對角線的形式獲得了人類和電腦的優勢對技能的依賴關係。 目前的情況就是這樣。 一個強大的人工智慧有可能最大限度地發揮其所有技能（紅線）嗎？ 或甚至更高（超級人工智慧-藍線）？ 也許進步的中期目標不該很強，但也不完全是
弱AI（紫線），在多項技能上會遜色於AI，但不會像現在那麼差。
回到我們的文學童話模型，我們可以說它的所有英雄都沒有以最好的方式表現：笨手笨腳的巫師忘記了鑰匙，在他的地牢裡收到了洪水，學生由於愚蠢和粗心，收到了一堆印象極深，差點被淹死，惡魔毫無感激之情地被趕了出去。 至於惡魔的智力，已經注意到很難明確地將他歸類為AI或EI，但其他人的智力（儘管並不令人印象深刻）顯然屬於EI。 可以說，在決策中犯下危險的錯誤、注意力不集中、忘記必要的事情和疲倦是他們的主要固有特徵。 不幸的是，這些特性或多或少是所有其他 EI 載體所固有的。 上面已經指出了對 EI 的單字或數字進行排序的不可靠性，但這似乎是一個更簡單的任務 - 簡單地記住一個數字對於人們來說是非常困難的。 對於機器來說，記住圓周率數字的能力僅受其記憶體大小的限制，大多數人必須使用 ，例如「我對圓圈了解多少」。 看起來「3,1416」這一行的字元數比指定的助記符要少，但出於某種原因，人們更喜歡以不太經濟的方式來記憶。 還有更長的：
學習並認識數字背後的數字，如何留意運氣
為了讓我們不犯錯，
必須正確閱讀
三、十四、十五
九十二和六
記得彩虹的顏色：
每個設計師都想知道在哪裡下載 Photoshop
以及元素週期表的開頭：
將天然水（氫氣）與凝膠（氦氣）混合以倒入（鋰）。 是的，將（鈹）倒入松林（硼）中，從原生角落（碳）亞洲（氮）中窺視出來，並且具有如此酸的面（氧），以至於我沒有二級（氟）想看看。 但我們不需要他（氖），所以我們搬到了三（鈉）米外，最終到達了木蘭（鎂），在那裡，穿著迷你（鋁）裙子的艾莉亞被塗上了含有磷（磷）的奶油（矽）。這樣她就不再是沙拉（Sera）了。 之後，艾莉亞取了氯氣（Chlorine）並清洗了阿爾戈英雄的船（Argon）
但為何如此完美的 EI 卻有如此明顯的缺陷呢？ 也許，由於能夠忘記最簡單的事實，一個人獲得了以任意瘋狂的順序組合他的思想碎片並找到非標準解決方案的自由？ 如果是這樣，那麼強人工智慧是不可能的。 要嘛他會像人一樣忘記，要嘛他沒有能力提供非標準的解決方案。 無論如何，從上述假設可以看出，有必要區分人工智慧的目標：一個目標是對人工智慧進行建模，另一個目標是創建強人工智慧。 實現其中一個可能會排除實作另一個。
正如我們所看到的，人工智慧領域存在太多答案模糊的問題，因此尚不清楚該朝哪個方向發展。 正如在這種情況下發生的那樣，他們試圖同時向各個方向移動。 同時，由於缺乏嚴格的數學公式，人們不得不求助於哲學、藝術和文學建模。 這個方向最著名的例子之一是人工智慧傑出人物之一馬文·李·明斯基和著名科幻小說作家哈里·哈里森合著的《圖靈選擇》（1992）一書。 我引用這本書裡的一段話，或許可以解釋上述的助記符現象：
人類的記憶並不是用時間順序記錄一切的錄音機。 它的結構完全不同——更像是一個維護得很草率的卡片索引，配備了令人困惑和矛盾的索引。 不僅僅是令人困惑——我們有時會改變概念分類的原則。
對另一部文學作品斯坦尼斯瓦夫·萊姆的故事《終點站》（來自“飛行員皮克斯的故事”系列）中錄音機隱喻的有趣解釋。 這是一種「智慧錄音機」的案例：一艘曾經發生過事故的舊太空船上的一個舊機器人正在進行正在進行的修復工作，伴隨著敲擊聲。 但如果你仔細聽的話，你會發現這不僅僅是白色的技術噪音，而是莫爾斯電碼的錄音——一艘垂死的船上的船員之間的對話。 皮克斯介入這些談判，並意外地收到了死去已久的太空人的回應。 事實證明，原始修理機器人以某種方式儲存了其意識的副本，或者是飛行員皮克斯感知的認知扭曲？
在另一個故事《阿南克》（同系列）中，太空運輸機控制電腦中的 EI 副本導致其測試任務偏執超載，最終釀成災難。
在故事《意外》中，一個過度擬人化編程的機器人在他決定在空閒時間進行的登山活動中死亡。 需要這樣的表演者嗎？ 但專注於澆花的惡魔並不總是必要的。
一些人工智慧領域的專家不喜歡這種“哲學化”和“文學化”，但這些“哲學化”和“文學化”傳統上是人工智慧分析中固有的，只要人工智慧與人工智慧進行比較，這些「哲學化」和「文學化」就不可避免。只要人工智慧試圖複製人工智慧，情況就更是如此。
總之，對出現的一些問題進行了調查。
只有註冊用戶才能參與調查。 ， 請。
1. 人工智慧是否包括電腦解決的問題明顯比人類差的任務？
-
Да
-
沒有
-
我更了解這個定義。 我會在評論中給出。
-
很難回答
34 位用戶投票。 7 名用戶棄權。
2. AI應該只是一個執行者，所有的命令都應該按字面意思理解嗎？ 例如，他們說給花澆水——這意味著澆水直到他們把你趕走
-
Да
-
沒有
-
很難回答
37 位用戶投票。 6 名用戶棄權。
3.是否有可能擁有一個強大的AI，所有技能都將達到最大（文章開頭圖中的紅線）？
-
Да
-
沒有
-
很難回答
35 位用戶投票。 7 名用戶棄權。
4.超級AI有可能嗎（文章開頭圖中的藍線）？
-
Да
-
沒有
-
很難回答
36 位用戶投票。 7 名用戶棄權。
5.中級目標應該不是強，但也不是完全弱的AI（文開頭圖中紫色線），在很多技能上會遜色於AI，但不會像現在那麼弱？
-
Да
-
沒有
-
很難回答
33 位用戶投票。 5 名用戶棄權。
6. 在決策中犯下危險的錯誤、注意力不集中、忘記必要的事情、疲倦是EI的主要固有屬性？
-
Да
-
沒有
-
我有不同的看法，我會在評論中提出。
-
很難回答
33 位用戶投票。 5 名用戶棄權。
7. 由於能夠忘記最簡單的事實，一個人能夠自由地以任意瘋狂的順序組合他的思想片段並找到非標準的解決方案？
-
Да
-
沒有
-
我有不同的看法，我會在評論中提出。
-
很難回答
31 位用戶投票。 4 名用戶棄權。
8. 建模人工智慧和創建強人工智慧是兩個不同的任務，可以用不同的方法來解決？
-
Да
-
沒有
-
我有不同的看法，我會在評論中提出。
-
很難回答
32 位用戶投票。 4 名用戶棄權。
資料來源：www.habr.com