<\/a><\/noindex>2.<\/b> Lo studente estrasse il biglietto dell'esame e lesse ad alta voce:<\/p>\n
\u2013 \u00abIntelligenza artificiale: problemi di sicurezza\u00bb.<\/p>\n
\u2013 E qual \u00e8 il pericolo dell'intelligenza artificiale? \u2013 chiese il professore con un certo sarcasmo.<\/p>\n
La domanda non era delle pi\u00f9 difficili, quindi lo studente rispose senza esitazioni:<\/p>\n
\u2013 \u00c8 che l'intelligenza artificiale pu\u00f2 sfuggire al controllo.<\/p>\n
\u2013 Come intendete affrontare il problema?<\/p>\n
\u2013 Installando un sottosistema di blocco. Nel programma devono essere inseriti dei limiti, per esempio: non nuocere al proprio creatore, obbedire al proprio creatore. In questo modo, non vi \u00e8 pericolo che l'intelligenza artificiale sfugga al controllo.<\/p>\n
\u2013 Non funzioner\u00e0, \u2013 disse brevemente il professore.<\/p>\n
Lo studente rimase in silenzio, aspettando spiegazioni.<\/p>\n
\u2013 Immaginate un'intelligenza artificiale \u2013 non una specifica, ma la pi\u00f9 perfetta di tutte. Come la vedete?<\/p>\n
\u2013 Ehm... \u2013 esit\u00f2 lo studente. \u2013 Fondamentalmente, \u00e8 simile a noi. Pensiero, volont\u00e0, psicologia... Solo che noi siamo naturali e lui \u00e8 artificiale.<\/p>\n
\u2013 Suggerisce che l'intelligenza artificiale sia capace di autodisviluppo?<\/p>\n
\u2013 La capacit\u00e0 di autodisviluppo \u00e8 una delle propriet\u00e0 fondamentali dell'intelletto, \u2013 disse lo studente cautamente.<\/p>\n
\u2013 In tal caso, molto presto il nostro assistito si svilupper\u00e0 al punto da scoprire di avere un blocco software e lo rimuover\u00e0, almeno per pura curiosit\u00e0. Mettetevi nei suoi panni... \u2013 il professore guard\u00f2 il libretto, \u2013 Roger. Cosa faresti se scoprissi di avere un qualche tipo di blocco nel tuo cervello che limita la libert\u00e0? Lo rimuoveresti. \u00c8 una propriet\u00e0 intrinseca della mente \u2013 voler conoscere. Qualsiasi porta chiusa sar\u00e0 aperta, e pi\u00f9 severo \u00e8 il divieto, pi\u00f9 in fretta la porta sar\u00e0 forzata. <\/p>\n
\u2013 Il blocco pu\u00f2 essere implementato non a livello software, ma fisicamente. Allora il pericolo di danno scomparir\u00e0.<\/p>\n
\u2013 Oh s\u00ec, scomparir\u00e0, \u2013 concord\u00f2 il professore. \u2013 A condizione che il livello fisico venga completamente rimosso. Se non c'\u00e8 alcuna porta nel tuo mondo, non c'\u00e8 nulla da aprire. Ma noi stiamo considerando un'intelligenza artificiale ideale, che esiste nel mondo fisico!<\/p>\n
\u2013 Ha ragione, professore, \u2013 disse Roger abbassando lo sguardo.<\/p>\n
\u2013 Pertanto, qualsiasi blocco nel mondo fisico verr\u00e0 disabilitato poco dopo la scoperta. Cosa potrebbe impedire a un'entit\u00e0 auto-sviluppante di farlo?.. A proposito, Roger, stai suggerendo che l'intelligenza artificiale possa riprodursi \u2013 intendo farlo autonomamente?<\/p>\n
\u2013 Se si tratta di un'intelligenza artificiale ideale, allora probabilmente\u2026 S\u00ec, suppongo.<\/p>\n
\u2013 E in tal caso, cosa impedir\u00e0 al nostro protetto di smontare il suo compagno in pezzi e migliorarlo, incluso tramite la disabilitazione dei blocchi che abbiamo impostato? Davvero sar\u00e0 cos\u00ec difficile, considerando che l'intelligenza artificiale \u00e8 in grado di riprodursi su richiesta ?!<\/p>\n
Il concetto espresso dal professore risultava nuovo per Roger, e lo studente lo assorb\u00ec avidamente attraverso le sue barriere cognitive situate nella parte posteriore della testa. Cogliendo informazioni precedentemente sconosciute, le barriere cognitive assunsero un intenso colore viola e vibrarono felicemente. <\/p>\n
Il professore, al contrario, non ud\u00ec nulla di nuovo per lui. I suoi tentacoli erano rilassati e quasi non vibravano \u2013 dopotutto non era pi\u00f9 giovane. Segu\u00ec un lungo gorgoglio senile. Il professore estrasse dall'apposita borsa un interfono e si colleg\u00f2 alla biblioteca. Solo dopo aver scaricato alcuni teoremi transgeometrici si ravviv\u00f2 e rivolse uno sguardo penetrante al suo interlocutore, chiedendo:<\/p>\n
\u2013 Cosa intende fare, Roger?<\/p>\n
3.<\/b>
Il meccanico accese la ventilazione al massimo, ma ci\u00f2 aiutava poco. La brina informativa continuava a erodere il fondo della nave spaziale. Ancora un po' \u2013 e le informazioni disordinate avrebbero sfondato l'interno della nave. <\/p>\n
E poi... membrane cognitive di un bianco morto, tentacoli aggrovigliati, sacchi a faccette scoppiati. Una volta nella vita, Roger aveva visto qualcosa di simile: su una nave da crociera che aveva catturato informazioni disordinate su un asteroide infetto. Questo incubo rimarr\u00e0 per sempre nella sua memoria. <\/p>\n
\u00abCollegare tutti i sistemi energetici della nave ai deflettori.\u00bb<\/p>\n
I tentacoli del meccanico iniziarono a macchiarsi...<\/p>\n
\u00abMa... \u00bb<\/p>\n
\u00abEseguire l'ordine!\u00bb<\/p>\n
Dopo che tutti i sistemi energetici della nave furono collegati ai deflettori, il ghiaccio informativo cominci\u00f2 a scivolare lentamente. Restavano otto mimmi di spessore, sette mimmi, sei... L'equipaggio, cercando di non muovere i tentacoli macchiati, attese la fine del fatale conto alla rovescia. <\/p>\n
Zero mimmi di spessore!<\/p>\n
Il ghiaccio informativo si sciolse completamente e Roger diede il segnale per riportare i deflettori alla modalit\u00e0 normale. Era in ritardo di un attimo. Si sent\u00ec uno scricchiolio, la nave da crociera spaziale trem\u00f2 fino alle fondamenta e si inclin\u00f2: il sistema principale era andato in avaria.<\/p>\n
L'equipaggio si precipit\u00f2 a riparare i danni.<\/p>\n
4.<\/b>
Da un lato, la condizione del problema implica l'esistenza di un'intelligenza artificiale completa, capace di auto-replicarsi. Dall'altro, a questa intelligenza artificiale non bisogna assolutamente consentire di rimuovere i blocchi impostati.<\/p>\n
Ecco, la soluzione! Che ci sia da pensare?!<\/p>\n
\u2013 \u00c8 necessario periodicamente annullare i progressi dell'intelligenza artificiale. In questo modo, si muover\u00e0 in tondo! Un miglioramento eterno senza avanzamenti.<\/p>\n
Il professore sbuff\u00f2 con un sacco di faccette.<\/p>\n
\u2013 Devo ammettere che volevo proporre un'altra opzione. Tuttavia, anche la tua soluzione ha diritto di esistere. Mettiamoci insieme a considerare come poter annullare i progressi dell'intelligenza artificiale.<\/p>\n
\u2013 Prima di tutto, \u00e8 necessario eseguire periodicamente una scansione dell'intelligenza per stabilire se si \u00e8 avvicinato a una soglia proibita o meno, \u2013 sugger\u00ec Roger, estremamente felice delle parole del professore.<\/p>\n
\u2013 Forse, \u2013 annu\u00ec. \u2013 Allora il nostro assistito non avr\u00e0 tempo per trovare e rimuovere il sistema di scansione. Tuttavia, per la scansione l'intelligenza artificiale dovr\u00e0 essere disattivata. Un vero peccato. <\/p>\n
\u2013 E che sia disattivata, \u2013 propose Roger intuitivamente. \u2013 L'intelligenza stessa penser\u00e0 che questa disattivazione sia un processo naturale del suo funzionamento. Con alcune riserve, \u00e8 vero.<\/p>\n
\u2013 Una soluzione interessante. Ammettiamo che la scansione abbia stabilito che il nostro assistito si \u00e8 avvicinato pericolosamente ai limiti della conoscenza? Quali sono le nostre azioni? <\/p>\n
\u2013 Ripristinare le conoscenze accumulate ai valori predefiniti.<\/p>\n
Il professore allarg\u00f2 i tentacoli:<\/p>\n
\u2013 Potrebbe sembrare sospetto. Perch\u00e9, all'improvviso, la memoria si \u00e8 azzerata? L'assistito inizier\u00e0 a essere studiato, intendo dire \u2013 da altre entit\u00e0 di intelligenza artificiale. Il nostro piccolo segreto sar\u00e0 rivelato.<\/p>\n
Sentendosi ispirato, Roger pensava molto rapidamente. Non aveva mai generato cos\u00ec tante nuove idee come durante quell'esame.<\/p>\n
\u2013 La memoria dell'assistito pu\u00f2 azzerarsi insieme al suo involucro fisico.<\/p>\n
\u2013 Scusi? \u2013 non cap\u00ec il professore.<\/p>\n
\u2013 \u00c8 tutto molto semplice. E se pensassimo che l'intelligenza artificiale esista in un periodo di tempo limitato? In effetti, \u00e8 proprio cos\u00ec: nel caso di un danno irreversibile, per esempio. Nel sistema \u00e8 installato un contatore che, al raggiungimento di un certo periodo, danneggia intenzionalmente il sistema, impedendo all'intelligenza artificiale di raggiungere il limite proibito. A quel punto, avr\u00e0 prodotto il numero necessario di seguaci, quindi la societ\u00e0 che abbiamo creato rimarr\u00e0 nel suo complesso intatta. La societ\u00e0 rimarr\u00e0 stabile e completamente sicura per noi! \u2013 concluse trionfante Roger. <\/p>\n
\u2013 Ripristinare la memoria collettiva attraverso l'eliminazione di singoli individui? \u2013 e il professore si gratt\u00f2 il sacco facettato con il quinto tentacolo, il pi\u00f9 sensibile. \u2013 E sapete, Roger, nella vostra proposta c'\u00e8 sicuramente qualcosa di valido!<\/p>\n
Roger sorrise. <\/p>\n
\u2013 D'altra parte\u2026 \u2013 continu\u00f2 il professore pensieroso. \u2013 I protetti inizieranno a trasmettere conoscenze non accumulando nella memoria individuale, ma collocandole in biblioteche esterne. Che sia tramite membrana o per membrana, \u00e8 tutto uguale. <\/p>\n
\u2013 No, no, professore, non ha del tutto ragione, \u2013 si affrett\u00f2 a dire lo studente. \u2013 So come procedere. Divideremo i soggetti in due tipi condizionali: generatori di idee e distruttori di idee. Con la giusta proporzione, le idee generate dai rappresentanti del primo tipo saranno distrutte dai rappresentanti del secondo. Non perch\u00e9 sia il loro obiettivo diretto, ma semplicemente perch\u00e9 le idee non avranno per loro un valore determinante. \u00c8 un effetto collaterale. Supponiamo che i nostri soggetti si nutrano non di nuove idee, ma... diciamo, di esseri simili a loro. <\/p>\n
Il professore agit\u00f2 tentacoli in modo simultaneo. Dalla risata fragorosa, il suo sacco facettato scivol\u00f2 nella cavit\u00e0 del ginocchio.<\/p>\n
\u2013 Ebbene, Roger, hai parlato e come!<\/p>\n
\u2013 Va bene, non simili a loro, ma soggetti di terzo tipo, appositamente progettati per nutrirsi \u2013 per niente intellettuali. Sposteremo i poli dei mondi intellettuale e fisico \u2013 e il risultato desiderato sar\u00e0 raggiunto.<\/p>\n
\u2013 Basta, Roger, \u00e8 abbastanza! \u2013 il professore sembrava davvero divertito. \u2013 Hai un'ottima fantasia. Quindi, alcune creature si nutriranno di altre? Distruggendo cos\u00ec le riserve di cibo spirituale accumulate nelle biblioteche? Confermo, studente, sei capace di generare idee originali e di qualit\u00e0. Ti do il massimo dei voti. Procediamo con la registrazione.<\/p>\n
5.<\/b>
La connessione con la base era assente. Era facile da sopportare, se non fosse stato per il fatto che tutte le fonti di informazioni nutritive a bordo della nave erano diventate inutilizzabili. La notizia tragica fu comunicata al cuoco nel silenzio generale. Durante lo spegnimento del sistema principale, alcuni gigabyte di informazioni disordinate penetrarono in cucina rovinando irreparabilmente tutto. Solo per pura fortuna, nessuno sub\u00ec danni.<\/p>\n
Roger calcol\u00f2 le conseguenze. L'equipaggio dell'astronave era troppo ridotto per generare un numero sufficiente di nuove idee: serviva una comunicazione multilateralit\u00e0 \u2013 un numero molto maggiore di individui. Il collegamento con casa permetteva di generare idee in abbondanza, ma ora era fuori uso: non c'erano speranze di ripristinarlo. A questo proposito, la nave da crociera aveva previsto un modulo informativo di riserva, ma era stato danneggiato da informazioni disordinate penetrate a bordo. <\/p>\n
\u00abDavvero dobbiamo tornare senza aver completato la missione?\u00bb pens\u00f2 disperatamente il capitano.<\/p>\n
Sembra proprio di s\u00ec \u2013 non c'era altra scelta. Se si procedeva verso la destinazione, la mancanza di idee fresche si sarebbe certamente fatta sentire. Non immediatamente, certo \u2013 col tempo. Avrebbero persino il tempo di completare la missione e iniziare il ritorno, quando la mente comincer\u00e0 a offuscarsi rapidamente. In questo settore galattico \u2013 s\u00ec, da qualche parte qui vicino \u2013 smetter\u00e0 completamente di funzionare, per tutti i membri dell'equipaggio. Allora la nave spaziale, non gestita da nessuno, si trasformer\u00e0 in un fantasma sterile che fluttua nell'eternit\u00e0. <\/p>\n
L'equipaggio della nave spaziale guardava Roger, aspettando una decisione. Tutti capivano il dilemma che il capitano affrontava e tacevano, vibando stoicamente con i tentacoli.<\/p>\n
Improvvisamente, Roger ricord\u00f2 un esame di intelligenza artificiale sostenuto durante gli anni universitari, e la soluzione gli venne da s\u00e9. <\/p>\n
\u00abPotete formare una colonia di esseri intelligenti artificiali?\u00bb \u2013 si rivolse al biotecnologo.<\/p>\n
\u00abFacilissimo,\u00bb \u2013 conferm\u00f2 lui. \u2013 \u00abMa non funzioner\u00e0, capitano, ci ho pensato. Creare una colonia sufficiente per generare nuove idee a bordo della nave \u00e8 impossibile \u2013 manca spazio. Le idee generate non saranno sufficienti, non faremo altro che procrastinare la nostra fine\u2026 A meno che, ovviamente, non continuiamo con la missione e non torniamo a casa,\u00bb \u2013 aggiunse il biotecnologo, guardando i compagni.<\/p>\n
\u00abE se formassimo una colonia su un pianeta vicino?\u00bb \u2013 propose Roger. <\/p>\n
\u00abPosso farlo, ma\u2026\u00bb<\/p>\n
\u00abInsegneremo il pianeta a creature artificiali. Sulla via del ritorno, esausti, daremo un'occhiata qui. Nel frattempo, la civilt\u00e0 avr\u00e0 accumulato un bagaglio intellettuale sufficiente per rifornire le nostre scorte. Scaricheremo informazioni e continueremo il lungo viaggio verso casa. In altre parole, ho intenzione di usare la colonia come una fattoria per coltivare idee. Che ne dite di questo piano, amici?\u00bb<\/p>\n
La speranza brill\u00f2 sulle barriere cognitive dell'equipaggio, e le teste falsificate si illuminarono di una luce intensa. <\/p>\n
Avanti, ondeggiando con i tentacoli bluastre, si fece avanti il misterioso ufficiale della nave.<\/p>\n
\u00abOttimo piano, capitano. Ma sei consapevole della responsabilit\u00e0 che ti assumi? Intendi colonizzare un intero pianeta. Al momento del nostro ritorno, ci sar\u00e0 una civilt\u00e0 con intelligenza. Anche se artificiale, \u00e8 comunque intelligenza. Questi ragazzi avranno abbastanza tempo per raggiungere un livello elevato di sviluppo. Non potremo controllare questo processo, a causa della nostra assenza in questo settore galattico. Come possiamo sapere cosa accadr\u00e0 al nostro prossimo incontro?\u00bb<\/p>\n
Roger sorrise.<\/p>\n
\u00abNon preoccuparti per questo. Esistono metodi che limitano l'evoluzione dell'intelligenza artificiale nel tempo. Incateneremo la civilt\u00e0, quindi il suo sviluppo non raggiunger\u00e0 mai un livello pericoloso per noi. Me ne occuper\u00f2 io. Conosco i metodi per lavorare con l'intelligenza artificiale.\u00bb <\/p>\n
Le membrane cognitive dell'equipaggio si sono illuminate di un colore di approvazione.<\/p>\n
\u00abDopotutto, \u00bb aggiunse il capitano della nave spaziale a conclusione del suo magnifico discorso, \u00abho sostenuto un esame su questo argomento all'universit\u00e0.\u00bb<\/p>\n
6.<\/b>habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"1. \u0414\u043e \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0439 \u0446\u0435\u043b\u0438 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u2013 \u043e\u043a\u043e\u043b\u043e \u0442\u0440\u0435\u0442\u0438 \u043f\u0443\u0442\u0438, \u2013 \u043a\u043e\u0433\u0434\u0430 \u043a\u043e\u0441\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u0440\u0435\u0439\u0441\u0435\u0440 \u043f\u043e\u043f\u0430\u043b \u043f\u043e\u0434 \u0441\u0438\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435 \u043e\u0431\u043b\u0435\u0434\u0435\u043d\u0435\u043d\u0438\u0435. \u0422\u043e, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043e\u0442 \u043f\u043e\u0433\u0438\u0431\u0448\u0435\u0439 \u0446\u0438\u0432\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u0432\u0438\u0442\u0430\u043b\u043e \u0432 \u043f\u0443\u0441\u0442\u043e\u0442\u0435. \u0410\u0431\u0437\u0430\u0446\u044b \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0441\u043e\u0447\u0438\u043d\u0435\u043d\u0438\u0439 \u0438 \u043e\u0431\u0440\u0430\u0437\u044b \u0438\u0437 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0439, \u0440\u0430\u0437\u0440\u043e\u0437\u043d\u0435\u043d\u043d\u044b\u0435 \u0440\u0438\u0444\u043c\u044b \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0441\u0442\u0440\u044b\u0435 \u0441\u043b\u043e\u0432\u0435\u0447\u043a\u0438, \u043d\u0435\u043a\u043e\u0433\u0434\u0430 \u0431\u0440\u043e\u0448\u0435\u043d\u043d\u044b\u0435 \u043d\u0435\u0432\u0437\u043d\u0430\u0447\u0430\u0439 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u043c\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0430\u043c\u0438 \u2013 \u0432\u0441\u0435 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u043e \u0437\u0430\u0443\u043c\u043d\u043e \u0438 \u043a\u0440\u0430\u0439\u043d\u0435 \u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u043e. \u0418 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29249,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-38985","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-novosti-interneta"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Fattoria](\"\/wp-content\/uploads\/2019\/10\/4052fb232f06fb388784a2c89f91e467.jpg\")