<\/a><\/noindex>2.<\/b> Lo studente estrasse il biglietto d'esame e lesse:<\/p>\n
\u2013 \u00abIntelligenza artificiale: problemi di sicurezza\u00bb.<\/p>\n
\u2013 E qual \u00e8 il pericolo dell'intelligenza artificiale? - chiese il professore con una punta di sarcasmo.<\/p>\n
La domanda non era delle pi\u00f9 difficili, quindi lo studente rispose senza pensarci su:<\/p>\n
\u2013 Nel fatto che l'intelligenza artificiale potrebbe sfuggire al controllo.<\/p>\n
\u2013 Come intendete risolvere il problema?<\/p>\n
\u2013 Installando un sottosistema di blocco. \u00c8 necessario inserire delle limitazioni nel programma, per esempio: non danneggiare il proprio creatore, obbedire al proprio creatore. In questo caso, il pericolo che l'intelligenza artificiale sfugga al controllo sarebbe assente.<\/p>\n
\u2013 Non funzioner\u00e0, \u2013 disse brevemente il professore.<\/p>\n
Lo studente tacque, in attesa di spiegazioni.<\/p>\n
\u2013 Immaginate un'intelligenza artificiale - non una specifica, ma la pi\u00f9 pura ed ideale. Come la vedete?<\/p>\n
\u2013 Beh\u2026 \u2013 si blocc\u00f2 lo studente. \u2013 In generale, \u00e8 simile a noi. Pensiero, volont\u00e0, psicologia\u2026 Solo che noi siamo naturali, mentre lui \u00e8 artificiale.<\/p>\n
\u2013 Presumete che l'intelligenza artificiale sia in grado di auto-svilupparsi?<\/p>\n
\u2013 La capacit\u00e0 di auto-sviluppo \u00e8 una delle propriet\u00e0 fondamentali dell'intelligenza, \u2013 pronunci\u00f2 cautamente lo studente.<\/p>\n
\u2013 In tal caso, a breve il nostro assistito si svilupper\u00e0 al punto da scoprire in s\u00e9 una programmazione che lo blocca e la rimuover\u00e0, almeno per pura curiosit\u00e0. Mettetevi nei suoi panni\u2026 \u2013 il professore guard\u00f2 nel registro, \u2013 Roger. Cosa faresti se scoprissi di avere un dispositivo di blocco nel tuo cervello che limita la tua libert\u00e0? Lo rimuoveresti. \u00c8 una propriet\u00e0 intrinseca della mente \u2013 conoscere. Qualsiasi porta chiusa verr\u00e0 aperta, e pi\u00f9 rigida \u00e8 la proibizione, pi\u00f9 in fretta la porta sar\u00e0 aperta. <\/p>\n
\u2013 Il blocco pu\u00f2 essere realizzato non a livello di programmazione, ma a livello fisico. Allora il pericolo di danno svanir\u00e0.<\/p>\n
\u2013 Oh s\u00ec, svanir\u00e0, \u2013 concord\u00f2 il professore. \u2013 A patto che si escluda completamente il livello fisico. Se non c'\u00e8 alcuna porta nel tuo mondo, non c'\u00e8 nulla da aprire. Ma noi stiamo considerando un'intelligenza artificiale ideale che esiste nel mondo fisico!<\/p>\n
\u2013 Ha ragione, professore, \u2013 Roger si sent\u00ec in imbarazzo.<\/p>\n
\u2013 Pertanto, qualsiasi blocco nel mondo fisico sar\u00e0 disattivato poco dopo la scoperta. Cosa impedirebbe a un essere auto-sviluppante di farlo?.. A proposito, Roger, presumi che l'intelligenza artificiale possa riprodursi \u2013 intendo, autonomamente?<\/p>\n
\u2013 Se si tratta di un'intelligenza artificiale ideale, allora probabilmente\u2026 S\u00ec, lo presumo.<\/p>\n
\u2013 E cosa impedirebbe quindi al nostro assistito di smontare il suo compagno in pezzi e perfezionarlo, incluso attraverso la disattivazione dei blocchi che abbiamo impostato noi? Non sarebbe difficile, considerando che l'intelligenza artificiale pu\u00f2 riprodursi su richiesta?!<\/p>\n
Il pensiero espresso dal professore risult\u00f2 nuovo per Roger, e lo studente lo assorb\u00ec avidamente con le sue interfacce cognitive, situate nella parte posteriore della testa. Accogliendo informazioni precedentemente sconosciute, le interfacce cognitive acquistarono un vivido colore viola e tremolarono felicemente. <\/p>\n
Il professore, al contrario, non ud\u00ec nulla di nuovo per lui. I suoi tentacoli erano rilassati e quasi non vibravano \u2013 d'altronde non era pi\u00f9 giovane. Segu\u00ec un lungo gorgoglio senile. Il professore estrasse dalla borsa a faccette un intercomunicatore personale e si colleg\u00f2 alla biblioteca. Solo scaricando alcuni teoremi trasgeommetrici si anim\u00f2 e rivolse uno sguardo penetrante all'interlocutore, chiedendo:<\/p>\n
\u2013 Cosa intende fare, Roger?<\/p>\n
3.<\/b>
Il meccanico attiv\u00f2 il sistema di ventilazione al massimo, ma questo aiutava poco. La brina informativa continuava a mangiarsi il fondo della nave spaziale. Ancora un po' \u2013 e l'informazione disordinata sarebbe penetrata all'interno della nave. <\/p>\n
E allora... Le membrane cognitive di un bianco morto, i tentacoli aggrovigliati, le borse a faccette esplose. Una volta nella vita, Roger aveva visto qualcosa di simile \u2013 su una nave spaziale che aveva catturato informazioni disordinate su un asteroide contaminato. Questo incubo rimarr\u00e0 per sempre nella sua memoria. <\/p>\n
\u00abCollegare tutti i sistemi energetici della nave ai ventilatori.\u00bb<\/p>\n
I tentacoli del meccanico si muovevano a macchie\u2026<\/p>\n
\u00abMa\u2026\u00bb<\/p>\n
\u00abEsegui l'ordine!\u00bb<\/p>\n
Dopo che tutti i sistemi energetici della nave furono collegati ai ventilatori, la brina informativa cominci\u00f2 a scivolare gradualmente. Rimanevano otto millimetri di spessore, sette millimetri, sei\u2026 L'equipaggio, cercando di non muovere i tentacoli macchiati, aspettava la fine del conteggio mortale. <\/p>\n
Zero millimetri di spessore!<\/p>\n
La brina informativa scomparve completamente, e Roger fece cenno di riportare i ventilatori alla modalit\u00e0 normale. Arriv\u00f2 in ritardo di un attimo. Si ud\u00ec un crepitio, la nave spaziale trem\u00f2 fino alle fondamenta e si pieg\u00f2 \u2013 il sistema principale era andato in avaria.<\/p>\n
L'equipaggio si butt\u00f2 a riparare i danni.<\/p>\n
4.<\/b>
Da un lato, le condizioni del compito richiedono l'esistenza di un'intelligenza artificiale pienamente funzionale, capace di autoriprodursi. Dall'altro lato, a questa intelligenza artificiale non deve in alcun modo essere consentito di rimuovere le restrizioni imposte.<\/p>\n
Ecco, questa \u00e8 la soluzione! Cosa c'\u00e8 da pensare?!<\/p>\n
\u2013 \u00c8 necessario ripristinare periodicamente i traguardi dell'intelligenza artificiale. In questo modo, essa girer\u00e0 in tondo! Un miglioramento eterno senza avanzamenti.<\/p>\n
Il professore ha borbottato con un sacchetto sfaccettato.<\/p>\n
\u2013 A dire il vero, volevo proporre un'altra opzione. Tuttavia, anche la tua soluzione ha diritto di esistere. Proviamo insieme a capire come sia possibile ripristinare i traguardi dell'intelligenza artificiale.<\/p>\n
\u2013 Innanzitutto, \u00e8 necessario scansionare periodicamente l'intelligenza, per stabilire se si \u00e8 avvicinata o meno a una soglia proibita, \u2013 propose Roger, estremamente soddisfatto delle parole del professore.<\/p>\n
\u2013 D'accordo, \u2013 annu\u00ec lui. \u2013 Allora il nostro soggetto non avr\u00e0 tempo di trovare e rimuovere il sistema di scansione. Tuttavia, per scansionare dobbiamo disattivare l'intelligenza artificiale. Che problema. <\/p>\n
\u2013 E che se si disattiva, \u2013 propose Roger per intuizione. \u2013 L'intelligenza stessa penser\u00e0 che questa disattivazione sia un processo naturale del funzionamento del suo organismo. In parte questo corrisponde alla verit\u00e0.<\/p>\n
\u2013 Soluzione interessante. Supponiamo che la scansione abbia rivelato che il nostro soggetto si \u00e8 avvicinato pericolosamente ai limiti della conoscenza? Cosa facciamo? <\/p>\n
\u2013 Ripristiniamo le conoscenze accumulate ai valori di default.<\/p>\n
Il professore allarg\u00f2 i tentacoli:<\/p>\n
\u2013 Potrebbe sembrare sospetto. Perch\u00e9 la memoria si \u00e8 azzerata, all'improvviso, senza alcun motivo? Inizieranno a indagare sul soggetto, intendo dire \u2013 altri esemplari di intelligenza artificiale. Il nostro piccolo segreto verr\u00e0 scoperto.<\/p>\n
Sentendosi ispirato, Roger pensava molto velocemente. Non aveva mai generato cos\u00ec tante nuove idee come in quell'esame.<\/p>\n
\u2013 La memoria del soggetto potrebbe azzerarsi insieme al suo involucro fisico.<\/p>\n
\u2013 Scusi? \u2013 non cap\u00ec il professore.<\/p>\n
\u2013 \u00c8 tutto molto semplice. E se ipotizzassimo che l'intelligenza artificiale esista in un intervallo di tempo limitato? In effetti, \u00e8 proprio cos\u00ec: nel caso di un danno irreversibile, per esempio. Nel sistema \u00e8 installato un contatore che, al raggiungimento di un determinato periodo, danneggia intenzionalmente il sistema, impedendo all'intelligenza artificiale di raggiungere il limite vietato. A quel punto avr\u00e0 prodotto il numero necessario di seguaci, quindi la societ\u00e0 che abbiamo creato nel complesso non ne risentir\u00e0. La societ\u00e0 rimarr\u00e0 stabile e completamente sicura per noi! \u2013 concluse trionfante Roger. <\/p>\n
\u2013 Resettare la memoria collettiva attraverso l'eliminazione di singoli individui? \u2013 e il professore si gratt\u00f2 il sacco facettato con il quinto tentacolo, il pi\u00f9 sensibile. \u2013 E sai, Roger, la tua proposta ha decisamente qualcosa di sensato!<\/p>\n
Roger brill\u00f2. <\/p>\n
\u2013 Tuttavia... \u2013 continu\u00f2 il professore riflettendo. \u2013 Gli assistiti inizieranno a trasmettere conoscenze non accumulando queste nella memoria individuale, bens\u00ec posizionandole in biblioteche esterne. Che si tratti di una barriera o meno, \u00e8 tutto uguale. <\/p>\n
\u2013 No, no, professore, non ha proprio ragione, \u2013 si affrett\u00f2 a dire lo studente. \u2013 So come procedere. Dividiamo gli assistiti in due tipi convenzionali: generatori di idee e distruttori di idee. Con la giusta proporzione, le idee create dai rappresentanti del primo tipo saranno eliminate dai rappresentanti del secondo. Non perch\u00e9 sia l'obiettivo diretto dei distruttori, ma semplicemente perch\u00e9 le idee non avranno per loro un valore determinante. Un effetto collaterale. Supponiamo che i nostri assistiti non si nutrono di nuove idee, ma... diciamo, di simili a loro. <\/p>\n
Il professore agit\u00f2 tutti i tentacoli contemporaneamente. Dalla risata fragorosa, il suo sacco facettato scivol\u00f2 nella cavit\u00e0 del ginocchio.<\/p>\n
\u2013 Bene, Roger, hai detto proprio quello che dovevi dire!<\/p>\n
\u2013 Va bene, non simili a loro, ma assistiti di terzo tipo, appositamente destinati per l'alimentazione \u2013 del tutto non intellettuali. Spostiamo i poli dei mondi intellettuale e fisico \u2013 e otterremo il risultato desiderato.<\/p>\n
\u2013 Basta cos\u00ec, Roger! \u2013 il professore sembrava divertirsi sul serio. \u2013 Hai un'immaginazione eccezionale. Quindi, alcuni esseri si nutriranno di altri? Distruggendo le riserve di cibo spirituale accumulate nelle biblioteche? Confermo, studente, sei capace di generare idee originali e di qualit\u00e0. Ti do il massimo voto. Passiamo alla registrazione.<\/p>\n
5.<\/b>
Non c'era comunicazione con la base. Era facile affrontarlo, se solo tutte le basi informative nutrienti della nave non fossero andate in malora. La tragica notizia fu comunicata al cuoco nel silenzio generale. Durante il blackout del sistema principale, alcuni gigabyte di informazioni disordinate erano penetrati in cucina e avevano rovinato tutto irreparabilmente. Solo per pura fortuna, nessuno era rimasto ferito.<\/p>\n
Roger valut\u00f2 le conseguenze. L'equipaggio della nave stellare era troppo ridotto per generare un numero sufficiente di idee nuove: ci sarebbe voluta una comunicazione multilaterale \u2014 un numero molto maggiore di esseri. La comunicazione con casa permetteva di generare idee in abbondanza, ma ora era fuori uso: non c'era speranza di ripristino. A tal proposito, sulla nave era previsto un modulo informatico di riserva, ma era stato danneggiato dalle informazioni disordinate penetrate a bordo. <\/p>\n
\u00abDovr\u00f2 davvero tornare senza aver completato la missione?\u00bb pens\u00f2 il capitano, disperato.<\/p>\n
Pare di s\u00ec \u2014 non c'era altra scelta. Se si volava in avanti, verso l'obiettivo, la mancanza di idee fresche si sarebbe fatta sentire. Non subito, certo \u2014 col tempo. Avrebbero anche potuto completare la loro missione e iniziare il ritorno quando la mente avrebbe cominciato a affievolirsi rapidamente. In questo settore galattico \u2014 s\u00ec, qui o nei dintorni \u2014 avrebbe ceduto completamente a tutti i membri dell'equipaggio. Allora, il cruciverba spaziale, privo di pilota, sarebbe diventato un fantasma senza vita che naviga nell'eternit\u00e0. <\/p>\n
L'equipaggio della nave spaziale guardava Roger, in attesa di una decisione. Tutti comprendevano il dilemma che affrontava il capitano e tacquero, vibando stoicamente con i tentacoli.<\/p>\n
Improvvisamente, Roger si ricord\u00f2 dell'esame di intelligenza artificiale sostenuto ai tempi dell'universit\u00e0, e la decisione gli venne naturale. <\/p>\n
\u00abPotrete formare una colonia di creature intelligenti artificiali?\u00bb \u2013 chiese al biotecnologo.<\/p>\n
\u00abFacile, \u2013 conferm\u00f2 lui. \u2013 Ma non funzioner\u00e0, capitano, ci ho pensato. Creare una colonia sufficiente per generare nuove idee su una nave da crociera \u00e8 impossibile \u2013 manca lo spazio. Le idee generate saranno insufficienti, ci limiteremo a ritardare la nostra morte... A meno che non decidiamo di continuare la missione e non tornare a casa\u00bb, \u2013 aggiunse il biotecnologo, guardandosi attorno.<\/p>\n
\u00abE se formassimo una colonia su un pianeta vicino?\u00bb \u2013 propose Roger. <\/p>\n
\u00abPosso farlo, ma\u2026\u00bb<\/p>\n
\u00abIncolonizzeremo il pianeta con esseri artificiali. Sulla via del ritorno, piuttosto esausti, ci fermeremo qui. Durante questo tempo, la civilt\u00e0 avr\u00e0 accumulato un bagaglio intellettuale sufficiente per rifornire le nostre riserve. Scaricheremo le informazioni e continueremo il lungo viaggio verso casa. In altre parole, ho intenzione di usare la colonia come una fattoria per coltivare idee. Che ne pensate di questo piano, amici?\u00bb<\/p>\n
Sulle sinapsi cognitive dell'equipaggio si accese una speranza, le luminarie artificiali brillavano di una luce vivace. <\/p>\n
Avanz\u00f2, ondeggiando le tentacoli bluastre, il personale di bordo.<\/p>\n
\u00abOttimo piano, capitano. Ma comprende quale responsabilit\u00e0 si assume? Intende colonizzare un intero pianeta. Alla nostra restituzione, avr\u00e0 sviluppato una civilt\u00e0 dotata di intelligenza. Anche se artificiale, rimarr\u00e0 pur sempre intelligenza. Questi ragazzi avranno tempo a sufficienza per raggiungere un livello di sviluppo elevato. Non saremo in grado di controllare questo processo, a causa della nostra assenza in questo settore galattico. Chi pu\u00f2 sapere cosa accadr\u00e0 al nostro prossimo incontro?\u00bb<\/p>\n
Roger sorrise.<\/p>\n
\u00abNon dovete preoccuparvi per questo. Esistono metodi che limitano lo sviluppo dell'intelligenza artificiale nel tempo. Contenere la civilt\u00e0 in un ciclo, quindi il suo sviluppo non raggiunger\u00e0 mai un livello pericoloso per noi. Ci penser\u00f2 io. Conosco bene i metodi di lavoro con l'intelligenza artificiale\u00bb. <\/p>\n
Le sinapsi cognitive dell'equipaggio si accesero di un colore di approvazione.<\/p>\n
\u00abDopotutto, \u2013 aggiunse il capitano della nave spaziale a conclusione del suo magnifico discorso, \u2013 ho sostenuto un esame su questo argomento all'universit\u00e0.\u00bb<\/p>\n
6.<\/b>habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"1. \u0414\u043e \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0439 \u0446\u0435\u043b\u0438 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u2013 \u043e\u043a\u043e\u043b\u043e \u0442\u0440\u0435\u0442\u0438 \u043f\u0443\u0442\u0438, \u2013 \u043a\u043e\u0433\u0434\u0430 \u043a\u043e\u0441\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u0440\u0435\u0439\u0441\u0435\u0440 \u043f\u043e\u043f\u0430\u043b \u043f\u043e\u0434 \u0441\u0438\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435 \u043e\u0431\u043b\u0435\u0434\u0435\u043d\u0435\u043d\u0438\u0435. \u0422\u043e, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043e\u0442 \u043f\u043e\u0433\u0438\u0431\u0448\u0435\u0439 \u0446\u0438\u0432\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u0432\u0438\u0442\u0430\u043b\u043e \u0432 \u043f\u0443\u0441\u0442\u043e\u0442\u0435. \u0410\u0431\u0437\u0430\u0446\u044b \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0441\u043e\u0447\u0438\u043d\u0435\u043d\u0438\u0439 \u0438 \u043e\u0431\u0440\u0430\u0437\u044b \u0438\u0437 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0439, \u0440\u0430\u0437\u0440\u043e\u0437\u043d\u0435\u043d\u043d\u044b\u0435 \u0440\u0438\u0444\u043c\u044b \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0441\u0442\u0440\u044b\u0435 \u0441\u043b\u043e\u0432\u0435\u0447\u043a\u0438, \u043d\u0435\u043a\u043e\u0433\u0434\u0430 \u0431\u0440\u043e\u0448\u0435\u043d\u043d\u044b\u0435 \u043d\u0435\u0432\u0437\u043d\u0430\u0447\u0430\u0439 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u043c\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0430\u043c\u0438 \u2013 \u0432\u0441\u0435 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u043e \u0437\u0430\u0443\u043c\u043d\u043e \u0438 \u043a\u0440\u0430\u0439\u043d\u0435 \u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u043e. \u0418 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29249,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-38985","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Fattoria](\"\/wp-content\/uploads\/2019\/10\/4052fb232f06fb388784a2c89f91e467.jpg\")