En declaraciones exclusivas a EFE, un exempleado de OpenAI revela que la próxima generación de Inteligencia Artificial General (IAG) está en camino de revolucionar la tecnología al superar la inteligencia humana. Este exmiembro del equipo de alineamiento práctico y superalineamiento de la empresa, encargado de garantizar la seguridad y la alineación con los valores humanos en los modelos de IA más avanzados, advierte sobre los riesgos de una carrera desenfrenada hacia una super IA.
Carroll Wainwright, quien recientemente suscribió una carta junto con otros colegas de OpenAI denunciando la falta de transparencia en torno a los posibles riesgos de la IA, destaca que la IAG no se limitará a replicar acciones humanas, como escribir o dibujar, sino que también comprenderá la complejidad y el contexto de sus acciones. Aunque esta tecnología aún no es una realidad tangible, se espera que llegue en los próximos años, según estimaciones de expertos como Elon Musk y Robin Li.
Sin embargo, más allá de las proyecciones temporales, Wainwright enfatiza la importancia de abordar seriamente el desarrollo de esta tecnología, dada su capacidad transformadora. Su renuncia y participación en la carta de denuncia no obedecen simplemente al temor, sino a un cambio de visión dentro de OpenAI, que inicialmente se estableció como un laboratorio de investigación sin fines de lucro con un enfoque en beneficios humanos.
Los riesgos asociados con la IAG son diversos y complejos, desde la posible sustitución de trabajadores hasta cuestiones de control y ética. Wainwright destaca la urgencia de establecer regulaciones y mecanismos de control para garantizar un desarrollo responsable de la IA, especialmente ante la intensa competencia entre empresas como OpenAI y Google.
La reciente ratificación por parte del Parlamento Europeo de la primera ley de IA en el mundo y las investigaciones antimonopolio anunciadas contra gigantes tecnológicos como Microsoft, OpenAI y Nvidia en Estados Unidos indican un creciente reconocimiento de la importancia de regular y supervisar este campo en rápida evolución.