Elon Musk ha lanzado una startup de inteligencia artificial que será «pro-humanidad», ya que dijo que el mundo necesitaba preocuparse por la perspectiva de un «futuro de Terminator» para evitar los escenarios de IA más apocalípticos.
Musk dijo que xAI buscaría construir un sistema que fuera seguro porque era «máximamente curioso» sobre la humanidad en lugar de tener pautas morales programadas en él.
«Desde el punto de vista de la seguridad de la IA, una IA extremadamente curiosa, una que está tratando de entender el universo, creo que va a ser pro-humanidad», dijo en una discusión de Spaces en Twitter anunciando xAI.
La persona más rica del mundo fue uno de los firmantes de una carta este año que pedía una pausa en la construcción de grandes modelos de IA como ChatGPT, el chatbot construido por la firma estadounidense OpenAI. Existe un creciente temor de que el desarrollo de la tecnología de IA vaya más allá del control humano.
«Si pudiera hacer una pausa en la IA o una superinteligencia digital de IA realmente avanzada, lo haría. No parece que eso sea realista, por lo que xAI esencialmente va a construir una IA … en el buen sentido, con suerte», dijo.
Musk, propietario de Twitter, dijo que había un escenario benigno en el que la aparición de la inteligencia general artificial, un sistema capaz de inteligencia a nivel humano, condujo a una «era de abundancia» donde no había escasez de bienes y servicios. Sin embargo, también existía la posibilidad de un futuro más oscuro, agregó.
Refiriéndose a las películas de Terminator y su visión de un futuro destruido por robots impulsados por IA, Musk dijo: «En realidad es importante para nosotros preocuparnos por un futuro de Terminator para evitar un futuro de Terminator». Dijo que la superinteligencia, la IA más inteligente y dotada que los humanos, podría estar a cinco o seis años de distancia, lo que es más rápido que las estimaciones de muchos expertos.
Musk, quien también es director ejecutivo de la firma de automóviles eléctricos Tesla, dijo que pasaría un «tiempo» antes de que xAI alcance el nivel de OpenAI o Google, que ha lanzado su propio chatbot llamado Bard y posee la firma de inteligencia artificial líder mundial del Reino Unido DeepMind.
El jueves, Google anunció que Bard, que ya se lanzó en los Estados Unidos y el Reino Unido, se implementará en el resto de Europa y Brasil con nuevas características, incluida la opción de que el chatbot responda a un usuario, junto con el uso de imágenes cuando se lo solicite.
El equipo de xAI incluye a Igor Babuschkin, ex ingeniero de DeepMind; Tony Wu, que trabajó en Google; Christian Szegedy, que también fue científico investigador en Google; y Greg Yang, que anteriormente estuvo en Microsoft.
En marzo, Musk registró una firma llamada X.AI Corp, incorporada en Nevada, según una presentación estatal. La firma enumera a Musk como el único director y a Jared Birchall, el director gerente de la oficina familiar del multimillonario, como secretario.
Dan Hendrycks, quien asesorará al equipo de xAI, es director del Centro para la Seguridad de la IA (Cais) y su trabajo gira en torno a los riesgos de la IA. El Cais emitió una declaración en mayo, con múltiples firmas de profesionales y expertos en IA, diciendo que lidiar con el riesgo de extinción de la inteligencia artificial debería ser una prioridad global a la par con la mitigación del riesgo de pandemias y guerra nuclear.
Musk dijo en el evento de Spaces que tenía dudas sobre las implicaciones de seguridad de programar una postura moral en herramientas generativas de IA. Esta semana, Anthropic, una empresa líder de inteligencia artificial de Estados Unidos, lanzó un chatbot que opera a partir de una lista de principios de seguridad extraídos de fuentes como la Declaración Universal de Derechos Humanos.
«Si programas una cierta realidad [en una IA] tienes que decir qué moralidad estás programando. ¿De quién es esa decisión?», preguntó, y agregó que una vez que una IA está programada con un punto de vista moral específico, sería más fácil incitarla a revertirla. Esto se conoce como el «efecto Waluigi», llamado así por el travieso archirrival de Luigi en la franquicia de videojuegos Super Mario.
La nueva compañía de Musk está separada de X Corp, pero trabajará en estrecha colaboración con Twitter, Tesla y otras compañías, según su sitio web, y está reclutando ingenieros e investigadores experimentados en el área de la Bahía de San Francisco. CH
