Elon Musk y otras personalidades destacadas del mundo de la tecnología han firmado una carta abierta en la que piden una pausa en los “experimentos gigantes de inteligencia artificial (IA)”, que están siendo desarrollados por empresas como Google, Facebook y Amazon.
Algunos están extrañados de que Musk forme parte de la iniciativa ya que el dueño de Twitter compartió hace unas semanas que la plataforma “impelentaría la AI para detectar y poner de relieve la manipulación de la opinión pública”.
En la carta, los expertos en tecnología advierten que la carrera por desarrollar la IA está llevando a un “punto de inflexión en la historia de la civilización” y que se necesitan medidas urgentes para evitar consecuencias potencialmente catastróficas. La carta fue publicada por el Future of Life Institute, una organización sin ánimo de lucro respaldada por Elon Musk.
¿Quiénes firmaron la carta?
Elon Musk, quien ha expresado su preocupación por los riesgos de la IA en el pasado, ha sido uno de los principales impulsores de la carta firmada por más de 1 mil personas entre las que se encuentran:
- Emad Mostaque, Consejero Delegado de Stability AI
- Investigadores de DeepMind (propiedad de la compañía tecnológica Alphabet)
- Yoshua Bengio, a menudo considerado uno de los “padrinos de la IA”
- Stuart Russell, pionero de la investigación en el campo de la IA
Sam Altman, director ejecutivo de OpenAI, no figura entre los firmantes de la carta. Sundar Pichai y Satya Nadella, consejeros delegados de Alphabet y Microsoft, tampoco estaban entre los firmantes, especificó CNN.
Musk mencionó a los estudiantes de Instituto Tecnológico de Massachusetts (MIT) en 2014 que creía que las personas debían tener mucho cuidado con la AI y que la consideraba la “mayor amenaza existencial”.
En 2018 , Musk reiteró su miedo en un entrevista con Kara Swisher, de Recode: “Creo que tenemos que tener mucho cuidado con el avance de la IA”, dijo.
Desconocimiento de sus efectos
La carta señala que los experimentos de IA pueden tener consecuencias imprevistas y peligrosas que nadie “puede comprender, predecir o controlar de forma fiable”. Estas incluyen la creación de armas autónomas o la manipulación de la opinión pública, y de ser imposible de controlar podría poner en peligro la existencia de la humanidad.
La desinformación en las herramientas de Inteligencia Artificial
Los expertos que firmaron la carta también citaron los riesgos de la propaganda y las mentiras difundidas a través de artículos o imágenes generadas por la IA. Ya que estos parecen reales y muchas personas pueden no identificarlos, como fue el caso de las imágenes del supuesto arresto de Donald Trump.
Algunas recomendaciones
La carta abierta hace un llamado a los gobiernos, las empresas y la sociedad en general para que presten más atención a los riesgos de la IA y trabajen juntos para mitigarlos. Se sugieren medidas como la creación de un organismo regulador para supervisar el desarrollo de la IA, la promoción de una mayor transparencia y responsabilidad en las empresas que trabajan en la IA, y la educación del público sobre los riesgos y beneficios potenciales de la IA.
“Esto no significa una pausa en el desarrollo de la IA en general, sino un paso atrás en la peligrosa carrera hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes”, dice la carta.
