Estos son los proyectos que Elon Musk está financiando para prevenir la IA asesina.
Elon Musk ha donado millones de dólares al Future of Life Institute (Instituto del Futuro de la Vida) y ahora la organización ha decidido darle uso a ese dinero invirtiendo en investigación para que la inteligencia artificial siga siendo «sólida y beneficiosa» y no algo capaz de convertirse en una especie de Terminators que aniquilen la vida en la tierra. El instituto anunció esta semana que concederá becas a 37 equipos de investigación, elegidos de entre, al menos, 300 solicitantes. Los equipos se encargarán de tratar el tema de la IA asesina desde diferentes puntos de vista, incluyendo educar a la máquina para que aprenda qué es lo que quieren los seres humanos, alinear los intereses de los robots con los nuestros y mantener la IA bajo el control de las personas.
El instituto proporcionó este resumen destacando algunas de las becas:
- Tres proyectos que desarrollan técnicas para que los sistemas de IA aprendan lo que los humanos prefieren a partir de observar nuestro comportamiento, incluyendo proyectos de las universidades de Oxford y UC Berkeley.
- Un proyecto de Benja Fallenstein del Machine Intelligence Research Institute (Instituto de Investigación de Inteligencia de las Máquinas) sobre cómo alinear los intereses de los sistemas superinteligentes con los valores humanos.
- Un proyecto liderado por Manuela Veloso de la Universidad Carnegie Mellon sobre cómo hacer que los sistemas de IA expliquen sus decisiones a los humanos.
- Un estudio de Michael Webb de la Universidad de Stanford sobre cómo conseguir que el impacto económico de la IA sea beneficioso.
- Un proyecto dirigido por Heather Roff que estudia cómo mantener las armas manejadas por IA bajo un «control humano provechoso».
- Un nuevo centro Oxford-Cambridge para estudiar las políticas relacionadas con la IA.
En la página web del instituto puede verse la lista completa de los ganadores de las becas, así como una descripción de sus proyectos.
Se dividirá un total de unos 7 millones de dólares entre los equipos de investigación, donados por Musk y el Open Philanthropy Project (Proyecto Filantrópico Abierto). Se empezará a trabajar en la mayoría de los proyectos en septiembre y el instituto pretende mantener su financiación hasta tres años. El programa también cuenta con un excedente de 4 millones de dólares que se distribuirán más adelante, a medida que el instituto vaya determinando qué áreas de investigación son las más prometedoras.
Si bien es cierto que se habla mucho sobre el hecho de que este proyecto trata de evitar una potencial situación «Terminator», el instituto está tratando activamente de restar importancia a este tipo de comentarios. «El peligro del escenario Terminator no es que se produzca, sino que nos distrae de los verdaderos problemas que plantea la IA futura» dijo en un comunicado Max Tegmark, presidente del Future of Life Institute.
«Nosotros estamos concentrados y los 37 equipos a los que hemos apoyado con las becas de hoy deberían ayudarnos a resolver estos problemas reales».
Es una declaración justa, ya que el instituto se plantea algunos asuntos muy prácticos, incluyendo cómo optimizar el impacto económico de la IA, de manera que no cree una mayor desigualdad de ingresos al destruir puestos de trabajo. Asimismo, trata de descubrir cómo la IA debería manejar los problemas éticos, tales como que nos presentara distintas opciones ante un posible accidente de coche inevitable.
Dicho esto, en el cóctel hay también cierta preocupación sobre los robots asesinos. Elon Musk, director ejecutivo de Tesla y SpaceX, ha declarado con total claridad que se trata de una preocupación suya. Fue él quien sacó a la palestra el tema de los Terminator al discutir sus preocupaciones acerca de la evolución de la IA y declarar que esta tiene el potencial para ser «más peligrosa que las armas nucleares». Parte del objetivo del Future of Life Institute es evitar que esto ocurra, asegurándose de que la IA siga estando bajo el control de los seres humanos y que vaya en aras de los mejores intereses para el ser humano.
Estos primeros 37 proyectos son solo el comienzo de ese trabajo. Puede parecer aún pronto, pero Elon Musk y otras personas relacionadas con el instituto prefieren que la investigación se lleve a cabo ahora y no cuando una IA poderosa esté ya entre nosotros.