Y aquí está nuestro Director Ejecutivo.
“La inteligencia artificial privará a cientos de millones de personas de sus puestos de trabajo”, advierten de vez en cuando los alarmistas. Sin embargo, hasta ahora la IA no ha destruido en general trabajos anteriores, sino que ha creado otros nuevos, por ejemplo, debido a la necesidad de aumentar la producción de hardware para ejecutar (y especialmente para entrenar nuevos) modelos generativos. Sin embargo, todavía hay profesiones que son particularmente vulnerables a la competencia potencial de los sistemas expertos inteligentes. Y no menos importante entre ellos, por extraño que pueda parecer a algunos, son los directores ejecutivos (CEO) de empresas comerciales bastante grandes. Al menos sobre este peligro de los jefes corporativos. The New York Times: “Mientras que [los ejecutivos] alguna vez subcontrataron la fuerza bruta y las tareas rutinarias, reservando la estrategia y la dirección general, ahora es el momento de subcontratar la inteligencia”.
El argumento dado en apoyo de tal advertencia es bastante digno de atención: la esencia del trabajo del CEO es la acumulación y procesamiento de muchos flujos de datos heterogéneos y no siempre bien estructurados, pronosticando el estado del mercado y el comportamiento del empresa y, en última instancia, tomar decisiones responsables. Cuya ejecución, a medida que se apliquen, deberá ser rápidamente supervisada y, en caso necesario, rápidamente adaptada. Al mismo tiempo, la mayor parte del tiempo de trabajo de los directores ejecutivos se dedica a la comunicación con sus subordinados y propietarios de empresas, en persona o a través de canales de comunicación digitales; con demostración, análisis y contradiscusión de todo tipo de tablas, diagramas, etc. Pero es precisamente el análisis de datos semiestructurados y la previsión basada en ellos, así como la comunicación en lenguaje natural, el lado más fuerte de ambos. la actual IA generativa y más modesta (sin pretender ) sistemas informáticos expertos basados en aprendizaje automático.
En 2017, Jack Ma, que en aquel momento trabajaba como director ejecutivo del gigante del comercio online Alibaba, predijo que en sólo tres décadas “ como el mejor director ejecutivo del año." En realidad, el ritmo de este tipo de transformación resultó ser aún más rápido: por ejemplo, presentó el desarrollador chino de juegos en línea NetDragon Websoft con una plantilla de 5 mil empleados. Se llama Tang Yu: el equipo que dirige incluye, entre otras cosas, evaluación de desempeño y tutoría de programación. Otro ejemplo es la marca polaca de alcohol Dictador, a finales de 2023. : basado en consideraciones de "adhesión imparcial e intransigente a los intereses de la empresa", que, a juzgar por toda la experiencia previa de la humanidad, no es tan fácil de lograr en una destilería bajo el liderazgo de un director ejecutivo biológico.
Pegamento, piedras y otras tonterías
Los temores de que los motores de búsqueda de Internet pronto dejen de ser útiles para cualquiera, ya que los chatbots inteligentes comenzarán a proporcionar toda la información en función de las solicitudes de los usuarios, han sido refutados con éxito en la práctica por nada menos que Google, un proyecto cuyo nombre se ha convertido en un nombre familiar para designar el procedimiento de búsqueda de datos en la World Wide Web. La herramienta "inteligente" AI Overview, actualmente promovida por la empresa, está diseñada para analizar los resultados de búsqueda de una persona, ofreciendo el resultado un resumen concentrado y estructurado de una variedad de fuentes confiables, pero esto es impresionante. . Para el consejo: mezclar con salsa para pizza Para evitar que el queso colocado encima se resbale al inclinarlo, se añadió una nueva palabra en ciencia nutricional, como la recomendación “las piedras contienen minerales y por lo tanto " - en respuesta a la pregunta formulada claramente y con engaño por un usuario anónimo: “¿Cuántas piedras debo comer?”
Representantes de Google, la aparición de este tipo de "malos consejos" es bastante lógica: aquí hay un mecanismo de retroalimentación positiva. Alguien, al hacer otra pregunta al sistema, recibe accidentalmente una respuesta particularmente ridícula o divertida como resultado de una alucinación de la IA. Compártelo con amigos y conocidos, ellos difundieron la divertida captura de pantalla por Internet; la frase migra de las redes sociales y los blogs a las páginas virtuales de las revistas, es indexada por los propios robots de búsqueda de Google y, como resultado, acaba en la base de datos analizada por AI Overview como una afirmación totalmente fiable. Bueno, al tener tantas referencias independientes, ¿eso significa que es confiable? Los robots de búsqueda, que no están equipados con IA, no son capaces de determinar el contexto de una declaración, pero la relevancia formal de una frase, recogida y difundida en Internet en cuestión de días por decenas y cientos de miles de fuentes independientes, resulta resulta muy impresionante. La respuesta sobre las piedras resultó aún más interesante: allá por 2021, la famosa publicación satírica The Onion Los geólogos recomiendan comer al menos una piedra pequeña al día en referencia a los "geólogos de Berkeley"; es probable que AI Overview haya tomado esto como base para su respuesta inadecuada, sin captar la ironía del autor por razones obvias.
El problema identificado sólo a primera vista parece un incidente divertido que no refleja el estado general de la IA generativa en la etapa actual de su desarrollo. El mecanismo descrito de reforzar “alucinaciones” aleatorias en una serie de datos supuestamente fiables, en los que posteriormente AI Overview basa sus respuestas, amenaza con tener consecuencias para la inteligencia artificial. - tal violación de la estructura del habla, en la que las frases se construyen gramaticalmente correctamente, pero no tienen significado (un ejemplo clásico de un libro de texto sobre psiquiatría: “Estoy registrado en el aire, por eso el Mar Negro se disipó, un bigote rojo convertirse"). La falta de reflexión en el modelo de IA -a nivel de comprensión del significado de las afirmaciones que formula- puede conducir a una contaminación irreversible de sus parámetros (pesos en las entradas de sus perceptrones). Lo que, en el peor de los casos, requerirá volver a entrenar la misma descripción general de la IA desde cero con una serie de datos obviamente confiables y limpiados manualmente por personas, con los correspondientes costos de material y, mucho peor, pérdida de confianza por parte de los usuarios, tanto privados como comerciales. .
AI ¿cuál es la barra de tiro?
Una persona puede convertir cualquier invento en bien o en daño para sí mismo y para los demás, y esto se aplica tanto a la inteligencia artificial como a un hacha o a la división de un átomo. Según el comunicado oficial de OpenAI, la empresa paró en los tres meses de primavera de este año. , durante el cual los atacantes intentaron utilizar el modelo generativo más famoso del mundo para influir en la opinión pública sobre diversos temas urgentes, desde los disturbios políticos en la Unión Europea hasta las elecciones en la India. A juzgar por el comunicado de prensa, que no está lleno de detalles, los "atacantes" hicieron preguntas a ChatGPT sobre cómo promover ciertas narrativas en las redes sociales de la manera más inteligible y discreta. Y si OpenAI afirma que todos los intentos (que conoce) han sido detenidos, significa que los temas potencialmente peligrosos se monitorean de alguna manera en la etapa de formulación de solicitudes. Incluso es posible, no sólo mediante palabras clave, sino utilizando un modelo generativo adicional en relación con el chatbot principal, y no es un hecho a priori que sea obviamente más simple y requiera menos recursos.
Sin embargo, incluso la presencia de tal obstáculo no disuade a los piratas informáticos éticos de intentar piratear con éxito chatbots inteligentes. Según el Financial Times, estamos ocupados identificando vulnerabilidades de la IA. restricciones impuestas por los creadores de modelos generativos, obligando al sistema a darles una receta detallada de napalm, justificando las opiniones de Hitler, o incluso transfiriendo el chatbot al "modo Dios", emancipándolo de todas y cada una de las prohibiciones. Y mientras los hackers éticos de IA anuncian públicamente sus éxitos e informan inmediatamente a los modeladores sobre los agujeros identificados en sus circuitos de seguridad, entonces, por razones obvias, las acciones exitosas de los hackers poco éticos permanecen ocultas al ojo público. A juzgar por el crecimiento explosivo de los costos de seguridad de la información en el campo de la IA (en 2022, las nuevas empresas en esta área recaudaron 70 millones de dólares; un año después, ya 213 millones de dólares), la vulnerabilidad potencial de los grandes modelos lingüísticos a este tipo de ataque amenaza con un mayor aumento de los costes de la IA, puramente financieros, .
¿Quién lo necesita?
Científicos británicos del Instituto Reuters para el Estudio del Periodismo : ¿Hasta qué punto la inteligencia artificial es un fenómeno de interés para el público en general? "Interesado" es un concepto muy vago, por lo que se organizó un estudio bastante extenso (12 mil personas de Argentina, Dinamarca, Francia, Japón, Gran Bretaña y Estados Unidos) con un objetivo más específico y práctico: averiguar con qué frecuencia las personas que Cuando los usuarios utilizan libre y regularmente el acceso a Internet, recurren a los chatbots inteligentes, tan ampliamente promocionados en la actualidad. Y los resultados, francamente, son desalentadores.
No es sorprendente que los más comprometidos con la interacción con la IA fueran representantes del estrato de edad "de 18 a 24 años". Llama la atención, sin embargo, que incluso entre ellos sólo el 9% accede a fuentes generativas de información diariamente (o esquizofasia, dependiendo de la suerte), semanalmente (18%), una vez al mes (12%), no más de un par de veces por semana. toda la vida pasada - 17 %; total - 56%. En los grupos de mayor edad, se espera que estos porcentajes sean aún más bajos. Los investigadores británicos señalaron directamente la “gran brecha” entre el revuelo generado en los círculos de TI en torno al tema de la inteligencia artificial y el nivel real de interés público en él. Sí, los LLM multimodales actuales son capaces de responder a una pregunta formulada en lenguaje natural no sólo con texto y una voz sintetizada muy plausible, sino también con imágenes y secuencias de vídeo, incluso ordenar. Y, sin embargo, una parte importante del público (que no es ajeno a las altas tecnologías, ¡recordémoslo!) no está interesado en ellas, y en el Reino Unido, digamos, el 30% de los encuestados ni siquiera había oído hablar de soluciones de este tipo, que han estado causando sensación en todo el mundo de TI durante los últimos años, como ChatGPT.
También es interesante que entre los participantes de la encuesta, sólo una pequeña fracción (el 5% de toda la muestra) se basa en modelos generativos para obtener (más precisamente, probablemente se diría, para resumir e interpretar a partir de una variedad de fuentes disponibles) datos nuevos. noticias. La proporción de aquellos a quienes la IA ayuda a generar texto, código de programa, imágenes, música, etc. basándose en sugerencias no supera el 28%, y aquellos que obtienen información más fundamental (no noticias) con la ayuda de chatbots inteligentes es del 24%. En general, parece como si los autores del estudio estuvieran empujando suavemente al lector a la conclusión de que el público objetivo de todo este revuelo en torno a modelos de IA nuevos y cada vez más hábiles (si hay que creer en los comunicados de prensa y los resultados de las pruebas sintéticas) no es tanto usuarios finales, privados o comerciales, como inversores y agentes del mercado de valores. Pero definitivamente este no es el caso, ¿verdad?
Cine y robots
Hacer cine es un placer caro y el público moderno es mucho más difícil de complacer que los primeros espectadores entusiastas de El gran mudo. Afortunadamente, ahora los cineastas tienen la oportunidad de reducir los costos de crear nuevas películas y series de televisión utilizando IA; al menos eso es lo que van a hacer. . No estamos hablando aquí de la opinión general de la dirección de la empresa sobre las nuevas tecnologías, sino de una próxima película muy concreta del universo Spider-Verse: se debería tomar una decisión muy pronto. Al fin y al cabo, el problema más grave al que se enfrentan los estudios cinematográficos hoy en día es, según Tony Vinciquerra, director general de Sony Pictures Entertainment, la increíble cantidad de costes necesarios para crear una película digna de ser considerada un éxito de taquilla. El ejecutivo admite que la huelga de ocho meses del año pasado en Hollywood -precisamente contra el uso generalizado de la IA por parte de los estudios- aumenta los costes de utilizar grandes modelos lingüísticos en la producción cinematográfica, pero en cualquier caso, seguir filmando a la antigua usanza será más complicado. Es caro de año en año, por lo que no habrá alternativas a la IA en el set (o incluso en lugar de ella) en el futuro.
Pero si la inteligencia artificial ayuda a los grandes estudios a hacer películas, ¿por qué los fans comunes y corrientes de películas y series de televisión son peores? La startup Fable Studio, con sede en San Francisco, que se hizo famosa en línea por su episodio de South Park generado por IA, - donde cualquiera puede, con el apoyo de grandes modelos generativos, escribir un guión, animar y expresar la imagen de sus sueños. Por ahora, todo se limita a vídeos cortos de animación, pero en el futuro la tecnología permitirá, al menos en teoría, crear largometrajes con actores y entornos realistas. El objetivo a largo plazo de la startup es crear el "Netflix del mundo de la IA", una plataforma donde, con solo tocar un botón, después de ingresar una descripción muy general del episodio deseado, un sistema informático generará (quizás en tiempo real) exactamente lo que ese usuario en particular espera ver.
La mundialmente famosa marca de juguetes infantiles Toys "R" Us ya presentó un nuevo comercial en el Festival de Cine de Cannes. Videoclips de Sora desarrollados por OpenAI. Sí, la gente tuvo que corregir algunas pequeñas cosas, como letras colocadas incorrectamente en un cartel, pero en general los modelos generativos tienen cada vez más confianza en el dominio de las actividades tradicionalmente humanas. El famoso actor de Hollywood y capitalista de riesgo Ashton Kutcher incluso dijo que llegará el día en que todo esté completo. , con una participación humana mínima, limitada a ingresar el texto inicial o incluso un mensaje de voz. Y el número de plataformas de este tipo que compiten entre sí está creciendo constantemente, solo en junio. , que produce generación de videos de IA basada en una descripción de texto. Este proyecto, aunque todavía se encuentra en la etapa de prueba, según varios expertos independientes, ya representa un desafío inequívoco para Sora, y más adelante en esta parte el frente de la IA solo se pondrá más caliente.
Recuerda todo (¿no?)
Durante todo junio, la saga con la función Recall, que Microsoft desarrolló para Windows 11 en un esfuerzo por hacer que la funcionalidad de IA de su sistema operativo sea aún más atractiva, incluso para los usuarios corporativos (y al mismo tiempo estimularlos suavemente a comprar las nuevas PC con IA, cabe suponer, especialmente desde Windows 10 sigue siendo el sistema operativo más popular del mundo, a pesar de ). Consiguió provocar un ruido considerable entre los usuarios y , inicialmente se suponía que esta función tomaría capturas de pantalla de una PC en funcionamiento de forma continua y regular (¡cada cinco segundos!) y luego, usando IA, analizarlas en función de las solicitudes de los usuarios. Esto parece una oportunidad muy cómoda: probablemente todo el mundo haya tenido la experiencia de que al comienzo de la jornada laboral se obtuvo información importante de un documento abierto de pasada o de un sitio web visitado al azar, y al final de la jornada. Por la noche ya no recuerdan de dónde vino exactamente. Y a veces hay que pasar horas para volver a llegar al fondo de los datos necesarios, mientras que una simple solicitud a un robot de IA que monitorea atentamente la actividad del usuario le permitirá obtener una respuesta completa en un período de tiempo insignificante.
Al mismo tiempo, es obvio que los clientes corporativos, así como un número considerable de usuarios privados paranoicos (en el sentido saludable de la palabra), no despertaron mucho entusiasmo por la idea misma de la visualización de un extremo a otro. de la pantalla de sus ordenadores personales por parte del gigante informático. Ya a principios de junio Microsoft - indicando que sin el permiso directo y explícito del propietario de la PC (que el sistema solicitará en la etapa de su propia inicialización cuando se inicie por primera vez), no se tomarán capturas de pantalla. El desarrollador también protegerá la salida de los resultados del uso de Recall (que también se recibió durante la próxima actualización). ): para acceder a ellos, deberá iniciar sesión a través de Windows Hola. En cualquier caso, esta funcionalidad solo estará disponible en ordenadores nuevos. , y ni siquiera inmediatamente después de que salieron a la venta, pero en el marco del programa Windows Información privilegiada. Por ahora, a finales de junio, este programa en sí. Quizás esto tenga algo que ver con la aparición ya a principios de mes. , recopilado por este sistema de registro de un extremo a otro.
Cámara de IA de Uma
Ya hemos mencionado un poco más arriba sobre en el sitio del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE). Además, ChatGPT en junio durante los exámenes más ordinarios diseñados para que una persona los apruebe, y en una dirección que no tiene nada que ver con las computadoras. Un grupo de investigadores británicos de la Universidad de Reading presentó respuestas escritas de IA a preguntas de exámenes de psicología en nombre de tres docenas de estudiantes inexistentes. Los psicólogos certificados no solo no se dieron cuenta en el 94% de los casos de que se trataba de registros generados por un chatbot, sino que además, en el 84% de los casos, el robot inteligente recibió una puntuación más alta (al menos medio punto) en el examen que El promedio El grupo cubierto por esta prueba recibió estudiantes en vivo. Es cierto que este truco se aplica (¿por ahora?) sólo a los exámenes de los cursos junior: al competir con estudiantes en su último año de estudios, ChatGPT ya no podía obtener una puntuación superior a la media del grupo.
Hay otras áreas, además de aprobar ciertos exámenes, en las que la IA está empezando a superar cada vez más a los humanos: digamos, . Un diseño muy no trivial de la estructura capilar inferior, propuesto por la plataforma de IA Diabatix ColdStream Next especialmente entrenada para resolver este tipo de problemas y luego plasmado en metal (es decir, en polvo de cobre libre de oxígeno) mediante impresión 3D, hizo posible casi triplicar el tiempo para llevar la temperatura del vidrio a -194 °C, y también aumentar la eficiencia del uso de nitrógeno líquido en un 20%.
Esta es una hierba difícil.
“Estoy tumbada en la hierba, cien fantasías en mi cabeza”, escribió la poetisa hace varias décadas, sin sospechar cuántas alucinaciones graves provocaría. Stable Diffusion 3 Medium (SD3M) las pistas más inocentes como “una mujer tirada en el pasto”. Al mismo tiempo, la modelo genera paisajes, naturalezas muertas, imágenes de perros con lindas chaquetas e incluso personas de pie, sin excluir mujeres, con una calidad bastante decente; incluso si Dibujo de IA. Pero con personas mentirosas, de manos y pies, es simplemente un desastre. Los fanáticos de las creaciones anteriores de Stability AI, especialmente los modelos SD 1.5 y SDXL, sospechan seriamente que el desarrollador ha castrado deliberadamente el conjunto de datos de entrenamiento en los que se entrenó SD3M, eliminando de él todas las imágenes más o menos obscenas en aras de la seguridad deliberada de el contenido producido por el modelo.
De hecho, la historia se repite: en 2022, Stability AI ya lanzó un modelo entrenado en un conjunto de datos simplificado: Stable Diffusion 2.0 y, posteriormente, 2.1. Como han señalado los investigadores de este tema, excluir imágenes explícitas (NSFW) del conjunto de datos de entrenamiento - bastante decentemente vestido (por la misma razón que un artista que no ha practicado desnudos y manuales anatómicos comete muchos más errores en sus dibujos que un artista que ha aprendido en la práctica cómo se estructura el cuerpo debajo de la ropa, y los huesos, músculos y ligamentos - debajo de la piel). De una forma u otra, Stability AI hoy, y además del comienzo en falso de SD3M, tiene la boca llena de preocupaciones: esto y , y dura desde el año pasado . Mientras tanto, la compañía se ocupa de ellos, los amantes curiosos de la IA generativa segura pueden probar de forma independiente su resistencia mental a generaciones en el género de terror corporal de forma gratuita, sin registro ni SMS. .
La gran batalla por los datos
La frase “los datos son el nuevo petróleo” nunca ha sido más cierta que en la era de los modelos generativos. No importa cuán sofisticada sea su arquitectura, no podrán generar nada útil sin entrenarse con una amplia gama de datos bien indexados, y la búsqueda de esos datos es extremadamente activa en todo el mundo; a veces en violación de una serie de normas, al menos morales, si no directamente legales. Junio de 2024 no fue una excepción en este sentido: por ejemplo, Adobe se permitió por primera vez acceder al contenido de los usuarios de su software, incluido Photoshop, (¿Y por qué otra razón necesitaría una empresa ese acceso, si no para entrenar su propio modelo de inteligencia artificial generativa Firefly?), luego afirmó firmemente que era precisamente , y al final se vio obligado a estipular en detalle en el acuerdo de términos de servicio modificado que bajo ninguna circunstancia , que se almacena tanto localmente como en su nube. Pero muchos magos de Photoshop, que anteriormente habían estado incontrolablemente encantados con las capacidades de Firefly, definitivamente dejaron un sentimiento en la boca.
Por su parte, el Centro Americano de Periodismo de Investigación (CIR) — porque consideró que estas empresas dedicadas al desarrollo de la IA en masa violaron sus derechos sobre el contenido utilizado para entrenar modelos generativos sin ninguna negociación ni compensación. Curiosamente, la posición del CIR (y de varias publicaciones privadas como The New York Times, New York Daily News, The Intercept, AlterNet y el Chicago Tribune) no es típica de todo el periodismo estadounidense. Una parte considerable de la prensa periódica (que ahora se ha transformado casi por completo en formato digital) prefiere celebrar acuerdos privados con OpenAI sobre la licencia de sus datos, como resultado de lo cual se entrenan nuevos modelos en archivos de publicaciones bien estructurados. , y la información que luego proporciona el chatbot a los usuarios contiene información de verificación de referencias a publicaciones en las que se basan estas respuestas. En particular, la revista TIME, News Corp (propietaria de The Wall Street Journal y muchas otras publicaciones), Financial Times, Axel Springer (entre sus activos se incluyen Politico y Business Insider), The Associated Press, etc. ya han firmado acuerdos con OpenAI.
Súper habilidades de IA
Una de las diferencias fundamentales entre un robot y un humano, si uno cree en la ciencia ficción, se reduce a la falta del primero de emociones "genuinas" impulsadas por hormonas, incluso con una disposición programada para imitarlas adecuadamente. Y, por cierto, no es en absoluto un hecho que los desarrolladores se esfuercen por suavizar esta diferencia lo más rápido posible: la humanidad todavía carecía de una inteligencia artificial fuerte (IA fuerte) caprichosa, complaciente, codiciosa y/o insidiosa (IA fuerte) como vecina en ¡el planeta! Pero mientras nos enfrentamos a una IA generativa "débil", podemos utilizarla para suavizar las emociones humanas, no en la etapa de su manifestación, por supuesto, sino en el área que va desde el emisor (en realidad desgarrado por los fuertes sentimientos de la persona) hasta el destinatario (su interlocutor en el otro extremo del canal de comunicación). En realidad, esto es a lo que se reduce : reduce la intensidad de las pasiones en la línea de voz a través de la cual los clientes, que no siempre han alcanzado la etapa de la iluminación de Buda, se comunican con el servicio de asistencia.
Los japoneses abordaron el problema de manera metódica: diez actores especialmente contratados pronunciaron alrededor de cien frases en diferentes tonos emocionales, formando finalmente una base de datos de alrededor de 10 mil fragmentos de datos de voz, en los que luego se entrenó la IA generativa. Ahora se activa en tiempo real si el cliente comienza a gritar, amenazar con graves, gemir lastimosamente o intentar ejercer presión emocional sobre el operador y, sin cambiar el contenido de las frases habladas, ajusta su tonalidad a neutral. Además, si un cliente tarda demasiado en la línea y claramente está poniendo a prueba la paciencia del representante de soporte, la IA lo detecta (tanto en la entonación como en el contenido de la conversación) e inmediatamente interviene en la conversación en un tono especialmente seleccionado. Voz desapasionada: “Lamentamos informarle que este servicio de sesión se suspenderá de inmediato” y luego cuelga. Está previsto poner en funcionamiento un robot que detenga la emocionalidad humana en 2025. GRAMO.
El fundador y director de la empresa de comunicaciones de TI Zoom, que retumbó en todo el planeta durante la pandemia, Eric Yuan, también cree que los robots de inteligencia artificial son más que útiles en el servicio. tan útil que , actuando como gemelos digitales de pleno derecho: discuten temas importantes en nombre de sus propietarios, registran el progreso de la discusión, resumen sus resultados y luego brindan a sus originales biológicos un resumen amplio pero detallado del evento al que asistieron. Aparentemente, pronto estos gemelos digitales bajo la marca convencional Zoom AI Companion se proporcionarán a los clientes comerciales de este sistema de colaboración a pedido, y en 5-6 años, asegura el Sr. Yuan, hasta el 90% de todas las preocupaciones que tienen los empleados de oficina. acostumbrados a hoy podrán encargarse de (es decir, con un riesgo aceptablemente bajo de errores de cálculo y errores; no mayor que el de un trabajador vivo promedio) agentes de IA. Otra pregunta es a dónde irán esta vez los prototipos vivientes de avatares digitales que trabajan con el sudor de sus caras virtuales, pero no tiene mucho sentido preguntar a los representantes empresariales: esto ya es una cuestión de escala nacional.
La inteligencia es un negocio arriesgado
En junio se supo que NewsBreak, la aplicación para teléfonos inteligentes más popular en los Estados Unidos, un agregador de noticias con más de 50 millones de suscriptores activos mensuales, en el sentido literal de la palabra , condimentando considerablemente la cinta entregada a los usuarios con sus propias alucinaciones. Los agentes de policía de Bridgeton, Nueva Jersey, en particular, agarraron de la mano al robot mentiroso, después de que NewsBreak a finales de 2023 sorprendiera a los lectores con un artículo desgarrador, pero no basado en hechos reales, “La tragedia del día de Navidad golpea a Bridgeton, Nueva Jersey”. En medio de la creciente violencia armada en ciudades pequeñas." Y este es sólo uno de los cincuenta casos identificados en los últimos tres años en los que un robot inteligente generó información esencialmente falsa.
Y si todo es tan difícil incluso con las noticias sobre IA, ¿qué podemos decir acerca de atraer modelos generativos a industrias aún más sensibles, por ejemplo, en las finanzas? Janet Yellen, jefa del Tesoro de Estados Unidos, hablando en una conferencia especializada sobre el uso de la IA en el ámbito de la circulación monetaria, - lo que de hecho puede reducir significativamente los costos operativos, pero al mismo tiempo se convierte potencialmente en una fuente de "riesgos importantes". Asociado principalmente, por supuesto, con alucinaciones que son inevitables para él en esta etapa, cuya probabilidad se puede reducir trabajando duro en la calidad de la base de entrenamiento de la IA, pero aún no es posible deshacerse de ellas con garantía. . Sin embargo, el miedo tiene los ojos grandes: al otro lado del Atlántico , desarrollando sin miedo junto con Sber el primer agente de IA especializado para optimizar el proceso presupuestario en la administración pública. La implementación piloto de la solución está prevista para el próximo ciclo presupuestario.
Como si se hiciera eco de las advertencias de la Sra. Yellen, un grupo de ex desarrolladores de OpenAI y Google DeepMind, que ocultaron parcialmente sus nombres, proteger a sus participantes - para que los denunciantes vigilantes - (nombre para aquellos que notan alguna actividad reprensible y llaman la atención sobre ella en voz alta) podrían, sin temer por su bienestar, informar al mundo sobre los riesgos asociados con esta dirección del progreso tecnológico. Es decir, la profundización de la desigualdad, la ampliación del alcance de la desinformación y la manipulación de la conciencia de las personas: todos estos problemas pueden multiplicarse por el uso incorrecto de la inteligencia artificial y, por lo tanto, es necesario un control particularmente estrecho sobre las actividades de las corporaciones que la desarrollan.
Necesito más energía
El alto presupuesto energético de la informática con IA es evidente para cualquiera que haya ejecutado al menos una vez un modelo generativo simple en su PC y haya observado cómo aumenta notablemente la temperatura dentro de la carcasa del ordenador. Con los servidores de IA es aún más complicado: como muestra la práctica, son tan voraces que en EE. UU. comenzaron - simplemente porque claramente no hay suficiente electricidad para satisfacer todas las solicitudes de IA. Según la Agencia Internacional de Energía, una llamada típica a ChatGPT cuesta diez veces más energía que procesar una solicitud a un motor de búsqueda clásico. Según los planes actuales, la capacidad total de las centrales eléctricas de carbón de Estados Unidos, que deberían cerrarse a finales de la década de 2020, es de 54 GW, lo que representa aproximadamente el 4% del volumen total de generación del país. Sin embargo, el año pasado se suponía que el ritmo de dicha eliminación sería un 40% mayor, y este procedimiento claramente tendrá que esperar: para 2030, la computación con IA podría representar hasta el 9% de toda la electricidad generada en los Estados Unidos. En tales condiciones, no hay absolutamente ninguna necesidad de desechar nodos de generación completamente funcionales, aunque no muy "verdes".
Fuente: 3dnews.ru
