Sam Altman, director de OpenAI y creador de ChatGPT, advirtió sobre la necesidad “urgente” de regular la inteligencia artificial (IA) en la Cumbre Impacto de la IA celebrada en Nueva Delhi, capital de la India.
El CEO señaló que la democratización y la coordinación internacional serán esenciales para evitar riesgos asociados a la centralización de esta tecnología y el avance de problemas como la manipulación de información y la disrupción laboral.
Altman destacó que, solo en India, ChatGPT cuenta con 100 millones de usuarios semanales, de los cuales más de un tercio son estudiantes, lo que ilustra la magnitud del fenómeno a nivel mundial.
Además, durante la reunión, un dato que acaparó la atención fue la negativa de Sam Altman y Dario Amodei, director ejecutivo de Anthropic, a tomarse de las manos durante la foto grupal, mientras el resto de los líderes presentes sí accedió al gesto ceremonial.
Por qué Sam Altman cree que es necesario una regulación internacional a la IA
La centralización de la inteligencia artificial en manos de una sola empresa o país “podría conducir a la ruina”, explicó Altman ante los principales actores de la industria tecnológica.
En este sentido, propuso la creación de un organismo internacional similar al Organismo Internacional de Energía Atómica (OIEA), con la capacidad de responder “rápidamente a las circunstancias cambiantes” y coordinar los esfuerzos de regulación global en este campo.
Altman insistió en que el control adecuado de la IA requiere medidas equiparables a las que se han implementado para otras tecnologías avanzadas. “Esto no quiere decir que no necesitemos ninguna regulación o medida de seguridad. Es obvio que las necesitamos, urgentemente, al igual que las hemos necesitado para otras tecnologías potentes”, señaló el ejecutivo.
A su vez, advirtió que los próximos años serán decisivos, porque la evolución de la IA continúa a un ritmo vertiginoso. En sus palabras, la sociedad global enfrentará el desafío de optar entre empoderar a las personas o concentrar el poder: “La democratización de la IA es la mejor manera de garantizar que la humanidad prospere”, dijo.
Qué preocupaciones sociales y riesgos emergentes hay alrededor de la IA
Varios investigadores y activistas consideran indispensable una regulación más firme para abordar problemas derivados de la expansión de la IA. Las inquietudes incluyen desde la disrupción laboral y el desplazamiento de empleos hasta la difusión de deepfakes sexualizados y estafas en línea potenciadas por la IA.
Altman afirmó: “La tecnología siempre altera los empleos; siempre encontramos cosas nuevas y mejores que hacer”, reconociendo el impacto en el mercado laboral y la necesidad de políticas de adaptación.
En referencia a la escala de adopción, destacó que en India el uso de ChatGPT es masivo, con cien millones de usuarios semanales, en su mayoría jóvenes estudiantes, lo que convierte al país en uno de los epicentros de la transformación digital.
Cuál es la visión de los gobiernos sobre el manejo de la inteligencia artificial
Durante la misma cumbre, Narendra Modi, primer ministro de India, presentó una visión orientada al desarrollo de la IA bajo un modelo de código abierto, en contraste con la tendencia de otros países y corporaciones a tratar esta tecnología como un activo estratégico confidencial.
Modi expuso: “La transparencia es la mayor seguridad. Algunos países y empresas creen que la IA es un activo estratégico, por lo que debe desarrollarse de manera confidencial. El pensamiento de la India es diferente”.
El primer ministro subrayó que solo mediante la apertura y el intercambio de códigos será posible que “millones de mentes jóvenes hagan la tecnología mejor y más segura”. Promovió una IA ética, soberana y accesible, resumida en el acrónimo ‘MANAV’ (ser humano en hindi).
Por qué es necesario proteger a la infancia
En su intervención abordó la necesidad de proteger a la infancia, y pidió prestar especial atención a la seguridad de los niños en el espacio digital, equiparable a la concerniente en la educación formal.
Para enfrentar los riesgos de los contenidos manipulados, Modi propuso la creación de “etiquetas de autenticidad” y marcas de agua para identificar la procedencia real de los materiales digitales.
Asimismo, comparó este sistema de identificación con el etiquetado nutricional de los alimentos, argumentando que permitiría a los ciudadanos distinguir entre contenidos genuinos y aquellos generados por inteligencia artificial.
