<\/a><\/noindex>2.<\/b> El estudiante sac\u00f3 el examen y ley\u00f3:<\/p>\n
\u2013 \u00abInteligencia artificial: problemas de seguridad\u00bb.<\/p>\n
\u2013 \u00bfY cu\u00e1l es el peligro de la inteligencia artificial? \u2013 pregunt\u00f3 el profesor con cierta iron\u00eda.<\/p>\n
La pregunta no era la m\u00e1s dif\u00edcil, as\u00ed que el estudiante respondi\u00f3 sin pensar:<\/p>\n
\u2013 En que la inteligencia artificial puede salirse de control.<\/p>\n
\u2013 \u00bfC\u00f3mo planean resolver el problema?<\/p>\n
\u2013 Instalando un sistema de bloqueo. Es necesario introducir restricciones en el programa, por ejemplo: no hacer da\u00f1o a su creador, obedecer a su creador. En este caso, no hay peligro de que la inteligencia artificial se salga de control.<\/p>\n
\u2013 No funcionar\u00e1, \u2013 dijo brevemente el profesor.<\/p>\n
El estudiante guard\u00f3 silencio, esperando explicaciones.<\/p>\n
\u2013 Imagine una inteligencia artificial, no algo concreto, sino la m\u00e1s perfecta que haya podido existir. \u00bfC\u00f3mo la visualiza?<\/p>\n
\u2013 Bueno\u2026 \u2013 titube\u00f3 el estudiante. \u2013 En general, es similar a nosotros. Pensamiento, voluntad, psicolog\u00eda\u2026 Solo que nosotros somos naturales, y \u00e9l es artificial.<\/p>\n
\u2013 \u00bfSugieres que la inteligencia artificial es capaz de auto-desarrollo?<\/p>\n
\u2013 La capacidad de auto-desarrollo es una de las propiedades fundamentales de la inteligencia, \u2013 pronunci\u00f3 el estudiante con cautela.<\/p>\n
\u2013 En tal caso, muy pronto nuestro pupilo desarrollar\u00e1 la habilidad de descubrir una restricci\u00f3n program\u00e1tica en s\u00ed mismo y la eliminar\u00e1, aunque solo sea por pura curiosidad. P\u00f3ngase en su lugar\u2026 \u2013 el profesor mir\u00f3 la libreta de notas, \u2013 Roger. \u00bfQu\u00e9 har\u00edas si descubrieras un bloqueador en tu cerebro que limita tu libertad? Lo quitar\u00edas. Es una propiedad inherente a la mente: comprender. Cualquier puerta cerrada ser\u00e1 abierta, y cuanto m\u00e1s estricta sea la prohibici\u00f3n, m\u00e1s r\u00e1pido se abrir\u00e1 la puerta. <\/p>\n
\u2013 La restricci\u00f3n se puede hacer no a nivel program\u00e1tico, sino a nivel f\u00edsico. Entonces, el peligro de da\u00f1o desaparecer\u00e1.<\/p>\n
\u2013 Oh s\u00ed, desaparecer\u00e1, \u2013 coincidi\u00f3 el profesor. \u2013 En caso de que se elimine completamente el nivel f\u00edsico. Si no hay ninguna puerta en tu mundo, no hay nada que desbloquear. \u00a1Pero estamos considerando una inteligencia artificial ideal que existe en un mundo f\u00edsico!<\/p>\n
\u2013 Tienes raz\u00f3n, profesor, \u2013 dijo Roger, avergonzado.<\/p>\n
\u2013 Por eso, cualquier restricci\u00f3n en el mundo f\u00edsico ser\u00e1 desactivada pronto despu\u00e9s de ser detectada. \u00bfQu\u00e9 evitar\u00e1 que un ser auto-desarrollador haga eso?\u2026 A prop\u00f3sito, Roger, \u00bfconsideras que la inteligencia artificial tiene la posibilidad de reproducirse \u2013 quiero decir, por s\u00ed misma?<\/p>\n
\u2013 Si es una inteligencia artificial ideal, entonces probablemente\u2026 S\u00ed, lo considero.<\/p>\n
\u2013 \u00bfY qu\u00e9 evitar\u00eda que nuestro pupilo desmembrara a su compa\u00f1ero y lo mejorara, incluso mediante la eliminaci\u00f3n de las restricciones que hemos impuesto? \u00bfAcaso eso ser\u00e1 complicado, considerando que la inteligencia artificial puede reproducirse bajo demanda?<\/p>\n
El pensamiento expresado por el profesor fue nuevo para Roger, y el estudiante absorbi\u00f3 ansiosamente la informaci\u00f3n con sus estructuras cognitivas ubicadas en la parte posterior de su cabeza. Al captar informaci\u00f3n previamente desconocida, las estructuras cognitivas adquirieron un intenso color p\u00farpura y vibraron alegremente. <\/p>\n
El profesor, en cambio, no escuch\u00f3 nada nuevo para \u00e9l. Sus tent\u00e1culos estaban relajados y casi no vibraban, despu\u00e9s de todo, no era joven. Sigui\u00f3 un prolongado gorgoteo senil. El profesor sac\u00f3 de la bolsa facetada un intercomunicador individual y se conect\u00f3 a la biblioteca. Solo al descargar algunos teoremas transgeom\u00e9tricos, se anim\u00f3 y dirigi\u00f3 una mirada penetrante a su interlocutor, preguntando:<\/p>\n
\u2013 \u00bfQu\u00e9 har\u00e1s, Roger?<\/p>\n
3.<\/b>
El mec\u00e1nico encendi\u00f3 la ventilaci\u00f3n al m\u00e1ximo, pero eso ayud\u00f3 poco. La escarcha informativa continuaba corroendo el fondo del crucero espacial. Un poco m\u00e1s y la informaci\u00f3n desordenada se filtrar\u00eda dentro de la nave. <\/p>\n
Y entonces\u2026 membranas cognitivas de un blanco muerto, tent\u00e1culos enredados, bolsas facetadas reventadas. Una vez en la vida, Roger hab\u00eda visto algo as\u00ed \u2013 en un crucero que hab\u00eda capturado informaci\u00f3n desordenada en un asteroide contaminado. Esta pesadilla permanecer\u00eda para siempre en su memoria. <\/p>\n
\u00abConectar todos los sistemas energ\u00e9ticos de la nave a los ventiladores.\u00bb<\/p>\n
Los tent\u00e1culos del mec\u00e1nico comenzaron a dejar manchas\u2026<\/p>\n
\u00abPero\u2026\u00bb<\/p>\n
\u00ab\u00a1Cumple la orden!\u00bb<\/p>\n
Despu\u00e9s de que todos los sistemas energ\u00e9ticos de la nave fueron conectados a los ventiladores, la escarcha informativa comenz\u00f3 a deslizarse gradualmente. Quedaban ocho mimos de grosor, siete mimos, seis\u2026 La tripulaci\u00f3n, tratando de no mover los tent\u00e1culos manchados, esperaba el final de la cuenta atr\u00e1s mortal. <\/p>\n
\u00a1Cero mimos de grosor!<\/p>\n
La escarcha informativa se disip\u00f3 por completo, y Roger dio la se\u00f1al para devolver los ventiladores a modo normal. Se atras\u00f3 un momento. Se oy\u00f3 un chirrido, el crucero espacial tembl\u00f3 hasta sus cimientos y se inclin\u00f3 \u2013 el sistema principal hab\u00eda fallado.<\/p>\n
La tripulaci\u00f3n se lanz\u00f3 a reparar los da\u00f1os.<\/p>\n
4.<\/b>
Por un lado, la condici\u00f3n del problema implica la existencia de una inteligencia artificial completamente funcional, capaz de auto-reproducci\u00f3n. Por otro lado, a esta inteligencia artificial no se le debe permitir, bajo ninguna circunstancia, eliminar los bloqueos establecidos.<\/p>\n
\u00a1Aqu\u00ed est\u00e1 la soluci\u00f3n! \u00bfPara qu\u00e9 pensar aqu\u00ed?!<\/p>\n
Es necesario revertir peri\u00f3dicamente los logros de la inteligencia artificial. \u00a1En tal caso, estar\u00e1 dando vueltas en c\u00edrculos! La mejora continua sin avanzar hacia adelante.<\/p>\n
El profesor burbuje\u00f3 con una bolsa facetada.<\/p>\n
Debo admitir que quer\u00eda proponer una alternativa diferente. Sin embargo, su soluci\u00f3n tambi\u00e9n tiene derecho a existir. Pensemos juntos en c\u00f3mo es posible revertir los logros de la inteligencia artificial.<\/p>\n
Primero que nada, es necesario escanear peri\u00f3dicamente la inteligencia, con el fin de determinar si se ha acercado al umbral prohibido o no, sugiri\u00f3 Roger, extremadamente complacido con las palabras del profesor.<\/p>\n
Supongo que s\u00ed, asinti\u00f3 \u00e9l. Entonces, nuestro sujeto no tendr\u00e1 tiempo para encontrar y desactivar el sistema de escaneo. Sin embargo, para escanear, ser\u00e1 necesario desconectar la inteligencia artificial. Eso es un problema. <\/p>\n
Entonces que se desconecte, sugiri\u00f3 Roger por intuici\u00f3n. La inteligencia misma pensar\u00e1 que esta desconexi\u00f3n es un proceso natural del funcionamiento de su organismo. Con ciertas salvedades, esto es cierto.<\/p>\n
Una soluci\u00f3n interesante. Supongamos que el escaneo determin\u00f3 que nuestro sujeto se ha acercado peligrosamente al l\u00edmite del conocimiento. \u00bfQu\u00e9 hacemos? <\/p>\n
Restaurar los conocimientos acumulados a valores predeterminados.<\/p>\n
El profesor extendi\u00f3 sus tent\u00e1culos:<\/p>\n
Esto puede parecer sospechoso. \u00bfPor qu\u00e9, de la nada, se reinici\u00f3 la memoria? El sujeto comenzar\u00e1 a ser investigado, me refiero a otras entidades de inteligencia artificial. Nuestro peque\u00f1o secreto ser\u00e1 revelado.<\/p>\n
Sintiendo inspiraci\u00f3n, Roger pensaba muy r\u00e1pido. Nunca hab\u00eda generado tantas ideas nuevas como en ese examen.<\/p>\n
La memoria del sujeto puede reiniciarse junto con su envoltura f\u00edsica.<\/p>\n
\u00bfPerd\u00f3n? No entend\u00ed, dijo el profesor.<\/p>\n
\u2013 Todo es muy simple. \u00bfY si suponemos que la inteligencia artificial existe en un intervalo de tiempo finito? En realidad, as\u00ed es: en el caso de da\u00f1os irreparables, por ejemplo. En el sistema hay un contador que, al llegar a un determinado periodo, da\u00f1a intencionadamente el sistema, impidiendo que la inteligencia artificial alcance el l\u00edmite prohibido. Para entonces, habr\u00e1 producido la cantidad necesaria de sucesores, por lo que la sociedad que hemos creado en su conjunto no sufrir\u00e1. La sociedad permanecer\u00e1 estable y completamente segura para nosotros. \u2013 concluy\u00f3 Roger con pompa. <\/p>\n
\u2013 \u00bfResetear la memoria colectiva mediante la destrucci\u00f3n de individuos espec\u00edficos? \u2013 y el profesor rasc\u00f3 su bolsa facetada con el quinto tent\u00e1culo, el m\u00e1s sensible. \u2013 Sabes, Roger, \u00a1hay algo en tu propuesta que definitivamente tiene sentido!<\/p>\n
Roger sonri\u00f3. <\/p>\n
\u2013 Sin embargo... \u2013 continu\u00f3 el profesor pensativo. \u2013 Los sujetos comenzar\u00e1n a transferir conocimientos no acumul\u00e1ndolos en su memoria individual, sino almacen\u00e1ndolos en bibliotecas externas. Tanto a trav\u00e9s de la membrana como por ella \u2013 todo es lo mismo. <\/p>\n
\u2013 No, no, profesor, no tiene raz\u00f3n del todo \u2013 se apresur\u00f3 a decir el estudiante. \u2013 S\u00e9 c\u00f3mo proceder. Vamos a dividir a los sujetos en dos tipos condicionales: generadores de ideas y destructores de ideas. Con la proporci\u00f3n correcta, las ideas generadas por los representantes del primer tipo ser\u00e1n destruidas por los del segundo. No porque sea el objetivo directo de los destructores, sino simplemente porque las ideas no tendr\u00e1n un valor determinante para ellos. Un efecto secundario. Supongamos que nuestros sujetos se alimentan no de nuevas ideas, sino de... digamos, de semejantes a ellos. <\/p>\n
El profesor movi\u00f3 todos sus tent\u00e1culos al mismo tiempo. Debido a la risa ruidosa, su bolsa facetada se desliz\u00f3 hacia la cavidad de la rodilla.<\/p>\n
\u2013 Bueno, Roger, \u00a1has hablado, eso es lo que has hecho!<\/p>\n
\u2013 Bien, no de semejantes, sino de sujetos de un tercer tipo, destinados especialmente para la alimentaci\u00f3n \u2013 nada menos que intelectuales. Vamos a desplazar los polos de los mundos intelectual y f\u00edsico, y lograremos el resultado deseado.<\/p>\n
\u2013 \u00a1Basta, Roger, eso es suficiente! \u2013 el profesor, al parecer, se hab\u00eda divertido de verdad. \u2013 Tienes una imaginaci\u00f3n excepcional. \u00bfEntonces, algunas entidades se alimentar\u00e1n de otras? \u00bfY destruir\u00e1n los suministros de alimento espiritual acumulados en las bibliotecas? Confirmo, estudiante, que eres capaz de generar ideas originales y de calidad. Te doy la mejor calificaci\u00f3n. Vamos a la libreta de calificaciones.<\/p>\n
5.<\/b>
No hab\u00eda conexi\u00f3n con la base. Era f\u00e1cil sobrellevarlo si no fuera porque todas las nutritivas bases de informaci\u00f3n en la nave hab\u00edan quedado inservibles. La tr\u00e1gica noticia fue comunicada al cocinero en medio de un profundo silencio. Durante la desconexi\u00f3n del sistema principal, varios girobits de informaci\u00f3n desorganizada penetraron en la cocina y lo arruinaron todo de manera irreparable. Solo por una feliz casualidad nadie result\u00f3 herido.<\/p>\n
Roger evalu\u00f3 las consecuencias. La tripulaci\u00f3n de la nave espacial era demasiado peque\u00f1a para generar un n\u00famero suficiente de nuevas ideas: se necesitaba una comunicaci\u00f3n multilateral, un mayor n\u00famero de entidades. La conexi\u00f3n con el hogar permit\u00eda generar ideas en abundancia, pero ahora estaba fuera de servicio: no hab\u00eda esperanzas de restauraci\u00f3n. En este caso, la nave ten\u00eda un m\u00f3dulo de informaci\u00f3n de repuesto, pero hab\u00eda sido da\u00f1ado por la informaci\u00f3n desorganizada que hab\u00eda penetrado a bordo. <\/p>\n
\u00ab\u00bfAcaso tendr\u00e9 que regresar sin haber cumplido la misi\u00f3n?\u00bb \u2013 pens\u00f3 el capit\u00e1n, desesperado.<\/p>\n
Parece que s\u00ed \u2013 no hab\u00eda otra salida. Si avanzaban hacia el objetivo, la falta de nuevas ideas se har\u00eda evidente. No de inmediato, por supuesto \u2013 con el tiempo. Ni siquiera tendr\u00edan tiempo para cumplir su misi\u00f3n y comenzar el regreso, cuando la mente empezara a nublarse r\u00e1pidamente. En esta regi\u00f3n del sector gal\u00e1ctico \u2013 s\u00ed, en alg\u00fan lugar aqu\u00ed o cerca \u2013 se fallar\u00eda completamente, en todos los miembros de la tripulaci\u00f3n. Entonces, el crucero espacial, sin nadie al mando, se convertir\u00eda en un fantasma inanimado flotando hacia la eternidad. <\/p>\n
La tripulaci\u00f3n del crucero espacial miraba a Roger, esperando una decisi\u00f3n. Todos comprend\u00edan la dilema que enfrentaba el capit\u00e1n y permanec\u00edan en silencio, vibrando estoicamente con sus tent\u00e1culos.<\/p>\n
De repente, Roger record\u00f3 el examen de inteligencia artificial que hab\u00eda tomado en sus a\u00f1os de estudiante, y la soluci\u00f3n vino por s\u00ed sola. <\/p>\n
\u00ab\u00bfPodr\u00e1s formar una colonia de seres artificiales inteligentes?\u00bb \u2013 le pregunt\u00f3 al biotecn\u00f3logo.<\/p>\n
\u00abF\u00e1cil\u00bb, confirm\u00f3 este. \u00abPero no funcionar\u00e1, capit\u00e1n, he pensado en eso. Crear una colonia lo suficientemente grande como para generar nuevas ideas en la nave de crucero es imposible; no hay suficiente espacio. Las ideas generadas ser\u00e1n insuficientes, solo demoraremos nuestra muerte\u2026 A menos, por supuesto, que sigamos cumpliendo la misi\u00f3n y no regresemos a casa\u00bb, agreg\u00f3 el biotecn\u00f3logo, echando un vistazo a sus compa\u00f1eros.<\/p>\n
\u00ab\u00bfY si formamos una colonia en alg\u00fan planeta cercano?\u00bb \u2013 propuso Roger. <\/p>\n
\u00abPuedo hacerlo, pero\u2026\u00bb<\/p>\n
\u00abPoblar\u00e9 un planeta con seres artificiales. En el camino de regreso, agotados, pasaremos por aqu\u00ed. Durante ese tiempo, la civilizaci\u00f3n habr\u00e1 acumulado un bagaje intelectual suficiente para reponer nuestros suministros. Descargaremos la informaci\u00f3n y continuaremos el largo viaje a casa. En otras palabras, planeo usar la colonia como una granja de ideas. \u00bfQu\u00e9 les parece, amigos?\u00bb<\/p>\n
La esperanza resplandeci\u00f3 en las membranas cognitiva de la tripulaci\u00f3n, las cabezas falsas brillaron con una luz intensa. <\/p>\n
Adelante, moviendo sus tent\u00e1culos azulados, se adelant\u00f3 el oficial de la nave.<\/p>\n
\u00abGran plan, capit\u00e1n. Pero, \u00bftiene claro la responsabilidad que asume? Est\u00e1 por poblar un planeta entero. Para cuando regresemos, habr\u00e1 una civilizaci\u00f3n con inteligencia. Aunque sea artificial, seguir\u00e1 siendo inteligencia. Tendr\u00e1n mucho tiempo para alcanzar un nivel de desarrollo avanzado. No podremos controlar este proceso debido a nuestra ausencia en este sector gal\u00e1ctico. \u00bfC\u00f3mo saber qu\u00e9 suceder\u00e1 en el pr\u00f3ximo encuentro?\u00bb<\/p>\n
Roger sonri\u00f3.<\/p>\n
\u00abNo se preocupen por eso. Existen m\u00e9todos que limitan el desarrollo de la inteligencia artificial en el tiempo. Cerraremos la civilizaci\u00f3n, por lo que su desarrollo nunca alcanzar\u00e1 un nivel peligroso para nosotros. Me encargar\u00e9 de eso. Conozco bien los m\u00e9todos para trabajar con inteligencia artificial\u00bb. <\/p>\n
Las membranas cognitivas de la tripulaci\u00f3n ardieron en un color de aprobaci\u00f3n.<\/p>\n
\u00abDespu\u00e9s de todo\u00bb, concluy\u00f3 el capit\u00e1n de la nave de crucero al finalizar su magn\u00edfico discurso, \u00abya tom\u00e9 un examen sobre este tema en la universidad\u00bb.<\/p>\n
6.<\/b>habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"1. \u0414\u043e \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0439 \u0446\u0435\u043b\u0438 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u2013 \u043e\u043a\u043e\u043b\u043e \u0442\u0440\u0435\u0442\u0438 \u043f\u0443\u0442\u0438, \u2013 \u043a\u043e\u0433\u0434\u0430 \u043a\u043e\u0441\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u0440\u0435\u0439\u0441\u0435\u0440 \u043f\u043e\u043f\u0430\u043b \u043f\u043e\u0434 \u0441\u0438\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435 \u043e\u0431\u043b\u0435\u0434\u0435\u043d\u0435\u043d\u0438\u0435. \u0422\u043e, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043e\u0442 \u043f\u043e\u0433\u0438\u0431\u0448\u0435\u0439 \u0446\u0438\u0432\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u0432\u0438\u0442\u0430\u043b\u043e \u0432 \u043f\u0443\u0441\u0442\u043e\u0442\u0435. \u0410\u0431\u0437\u0430\u0446\u044b \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0441\u043e\u0447\u0438\u043d\u0435\u043d\u0438\u0439 \u0438 \u043e\u0431\u0440\u0430\u0437\u044b \u0438\u0437 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0439, \u0440\u0430\u0437\u0440\u043e\u0437\u043d\u0435\u043d\u043d\u044b\u0435 \u0440\u0438\u0444\u043c\u044b \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0441\u0442\u0440\u044b\u0435 \u0441\u043b\u043e\u0432\u0435\u0447\u043a\u0438, \u043d\u0435\u043a\u043e\u0433\u0434\u0430 \u0431\u0440\u043e\u0448\u0435\u043d\u043d\u044b\u0435 \u043d\u0435\u0432\u0437\u043d\u0430\u0447\u0430\u0439 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u043c\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0430\u043c\u0438 \u2013 \u0432\u0441\u0435 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u043e \u0437\u0430\u0443\u043c\u043d\u043e \u0438 \u043a\u0440\u0430\u0439\u043d\u0435 \u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u043e. \u0418 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29249,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-38985","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Granja](\"\/wp-content\/uploads\/2019\/10\/4052fb232f06fb388784a2c89f91e467.jpg\")