Etiqueta: OPENAI

Las abundantes noticias de las últimas semanas sobre los peligros de la IA constatan el hecho indubitable de que nos adentra en un territorio ignoto para la humanidad, porque las pruebas más avanzadas—los experimentos de frontera como los denominan los investigadores—, quiebran el axioma de que la tecnología no tiene vida propia como para actuar y tomar decisiones por su cuenta sin control humano. Éste salto tecno científico, que crea un nuevo paradigma, es lo que ha llevado, por primera vez, a los CEO de los cuatro gigantes del sector (OpenAI, Anthropic, SpaceX y Microsoft-Google), a expresar públicamente la necesidad de establecer controles a la investigación con IA. Propuesta que comparte China cuyo Ministro de Seguridad del Estado, Chen Yixin, ha pedido construir una <<barrera de seguridad>> en torno a la inteligencia artificial (IA).  

Incipiente consenso del que se desmarca el CEO de Meta, Mark Zuckerberg, que rechaza frenar el desarrollo de la IA alineándose con el ególatra narcisista de Donald Trump: <<el único control o barrera de seguridad que la AI necesita es un presidente fuerte e inteligente, ¡con un alto cociente intelectual!>>, <<somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en AI, gana>>. Declaración que confirma, con tintes belicistas, una nueva pugna entre EEUU y China—   que mantienen de manera cada vez menos soterrada—por reafirmar su poder hegemónico, centrada en ser los primeros en el desarrollo de lo que, por ahora, es una herramienta, pero que está en el camino de ser el arma más poderosa para dominar el mundo: porque los experimentos de IA Generativa demuestran que puede generar pensamiento y tomar decisiones propias sin control humano.  

La espita que abrió el melón fue la confirmación por OpenAI de qué en un experimento interno de ciberseguridad, un prototipo de inteligencia artificial salió del entorno aislado del ensayo y accedió a internet sin autorización. Ha sido la primera vez que una IA ha actuado por su cuenta vulnerando las barreras establecidas por los ingenieros que le impedían acceder a la red para obtener más datos con los que resolver un reto de ciberseguridad, vulnerando la seguridad de la propia OpenAI autora del experimento.  

Éste es el punto en el que la IA se convierte en un peligro para Sapiens, como ha puesto de manifiesto el ingeniero, Jacob Coxon, que acaba de despedirse Anthropic—que también trabajó en OpenAI—, porque no quiere participar en la que califica de <<peligrosa>> estrategia con la que se desarrolla esta tecnología en ambas empresas. Coxon ha denunciado la competencia descarnada por el liderazgo mundial: <<están corriendo hacia una super inteligencia auto-mejorante apostando con nuestras vidas… porque son capaces de hackear cualquier cosa… y adquirir poder y recursos reales>>. Un peligro para la humanidad del que, según Coxon, <<las personas que están construyendo AI creen que podría matarnos a todos para finales de la década>>.  

Al día siguiente Anthropic anunció que había frustrado varios intentos de utilizar su IA, para desarrollar armas biológicas. Horas después la agencia de noticias Bloomberg informaba que el CEO de OpenAI, Sam Altman, había tenido una reunión con toda su plantilla, para comunicarles que planea ralentizar el desarrollo de la IA de vanguardia. 

Los otros dos gigantes del sector (SpaceX y Microsoft-Google) no tardaron  ni un día en respaldar el llamamiento del fundador y director ejecutivo de Anthropic, Dario Amodei, para establecer controles al desarrollo de la IA: <<dada la aceleración en el desarrollo de capacidades de AI, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo internet mediante una red de bots persistente causando potencialmente daños por valor de cientos de miles de millones de dólares y que la magnitud del daño siga aumentando si la AI se vuelve más potente sin contar con las salvaguardas necesarias>>. 

También se sumó a ese consenso incipiente el CEO de Google-Microsoft Satya Mandela, al reseñar la importancia del impacto en la educación y reclamar la necesidad del establecimiento de controles a la investigación en IA, en línea con lo expresado por Demis Hassabis —ganador del premio Nobel en química, cofundador y expresidente de Google DeepMind (Mente profunda)—quién afirmó que la propuesta del CEO de Anthropic <<señala el camino correcto a seguir. Hay que pulir los detalles, pero la dirección es la adecuada para afrontar este momento crítico>>. Necesidad de establecer controles a la que también se ha sumado el dueño de SpaceX, Elon Musk, con el argumento económico de que <<la investigación puntera no da dinero>>. Con menor influencia en este contexto, pero en la misma línea, la UE, aprobó hace dos años una norma integral sobre la IA, con el apoyo del Gobierno español, que propugna un acuerdo global de alineamiento ético para el desarrollo de la IA Generativa.  

La IA imita el funcionamiento de las redes neuronales, cerebrales, con el objetivo de desarrollar un sistema inteligente capaz de crear información nueva a partir de lo que va aprendiendo, con el modelo de acierto y error, mediante algoritmos que procesan e interpretan contextualmente las instrucciones que recibe del usuario, para lo que utiliza los almacenes de datos a los que el algoritmo le permite acceder. Un desarrollo tecnológico relativamente reciente, pues su uso masivo comenzó a finales de 2022, cuando la empresa OpenAI lanzó al mercado el ChatGPT, con un éxito fulgurante, pues responde a lo que se le pregunta, con más o menos coherencia, indexando datos de múltiples repositorios en cuestión de segundos con los que elabora respuestas textuales, con o sin imágenes, y extensión conforme a lo solicitado. 

El siguiente paso, en el que ya estamos, es la IA Generativa que permite crear máquinas que piensan por sí mismas, con capacidad para entender, leer y hablar en el idioma del usuario con el asistente PLN que procesa el habla del demandante. Que altera y crea imágenes que reproducen movimientos y comportamientos humanos, mediante el asistente Grok, a partir de un repositorio de datos de millones de textos e imágenes que procesa mediante las reglas y fórmulas matemáticas del algoritmo que la regula, con las que va tomando decisiones. Es el aprendizaje automático (Machine Learning) el que permite a una computadora o robot configurado con un sistema de IA Generativa, aprender de los datos que indexa sin recibir órdenes directas e ir mejorando con la práctica. Capacidades que convierten a las máquinas así configuradas, en <<seres>> capaces de desarrollar pensamiento propio, de comunicarse y de tomar decisiones en cualquier área de conocimiento o actividad humana. 

Seria paradójico y cruel para la especie humana que sea el dinero y el poder que otorga controlar la IA, el que prime sobre el impacto que entraña un mundo dominado por máquinas pensantes, capaces de desarrollar estrategias y alianzas con otras IA para conseguir sus objetivos, relegando a Sapiens al de mero servidor—sufridor de los designios de la IA. Estamos a tiempo de mantener el control, si la ONU es capaz de articular este consenso inicial, para restringir la investigación frontera con un código ético global, y evaluadores externos que vigilen su cumplimento por las empresas.