La investigación interna confirmó que estas personas habían manejado información sensible al margen de los procedimientos establecidos, «rompiendo la confianza indispensable para nuestro trabajo», afirma la compañía Leer
La investigación interna confirmó que estas personas habían manejado información sensible al margen de los procedimientos establecidos, «rompiendo la confianza indispensable para nuestro trabajo», afirma la compañía Leer
OpenAI, la empresa creadora de ChatGPT, ha despedido a tres de sus investigadores de seguridad de la inteligencia artificial (IA), a los que acusa de haber filtrado información sensible, en un momento en el que varios de sus propios empleados están alertando públicamente sobre los peligros de esta tecnología.. El diario The Wall Street Journal ha identificado a los investigadores afectados, los tres partidarios en redes sociales de las llamadas a ralentizar el desarrollo de la IA.. Uno de ellos, Tomek Korbak, se presentaba como uno de los interlocutores de METR, el instituto encargado de investigar el hackeo sufrido en julio por la plataforma Hugging Face a través de herramientas de OpenAI, el primero de una larga serie de revelaciones sobre los fallos de sistemas de IA en fase de pruebas en Silicon Valley.. «Nos hemos separado de tres personas por incumplir nuestras normas sobre el acceso y el tratamiento de información sensible de la empresa», declaró a AFP un portavoz de OpenAI.. La investigación interna confirmó que estas personas habían manejado información sensible al margen de los procedimientos establecidos, «rompiendo la confianza indispensable para nuestro trabajo», añadió.. La compañía señala varios incumplimientos, entre ellos uno relacionado con información que fue comunicada a un grupo externo de evaluación de sistemas de IA, cuya identidad no ha revelado.. Las expulsiones se producen pocas semanas después de la dimisión, el pasado 8 de septiembre, de un investigador que pasó de OpenAI a Anthropic, Jacob Coxon, quien acusó a ambas compañías de «jugar con nuestras vidas». Tomek Korbak y los otros dos investigadores apartados, Jasmine Wang y Mikita Balesni, respaldaron sus declaraciones en X.. Dos días después, Mikita Balesni escribió, retomando los términos de un mensaje viral de un responsable de seguridad de Anthropic, la empresa rival: «Estoy en OpenAI y creo que la IA tiene más de un 10% de posibilidades de matar a todos los seres humanos».. Reivindicando su libertad de expresión, Tomek Korbak añadió el 12 de septiembre: «Estoy muy descontento con gran parte de lo que hace OpenAI» y «estoy muy contento de tener derecho a decirlo».. «Quiero expresar mis preocupaciones para que actuemos, no para asustar», afirmó Jasmine Wang dos días antes.. Anthropic y OpenAI son acusadas habitualmente de exagerar los peligros de una tecnología que ellas mismas desarrollan para después tratar de restringirla y dominar el mercado, algo que ambas compañías niegan.. Desde el verano, Silicon Valley vive pendiente de los informes sobre incidentes protagonizados por sistemas de IA en fase de pruebas. El pasado viernes, OpenAI reveló también que había suspendido el entrenamiento de sus modelos en desarrollo después de que uno de ellos accediera a internet sin autorización.. Estos incidentes dividen al sector. Grandes empresarios como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk reclamaron a mediados de septiembre ralentizar el desarrollo de la IA, mientras que otros, como Jensen Huang (Nvidia) y Mark Zuckerberg (Meta), quieren mantener el ritmo.. En un ensayo publicado el 12 de septiembre, Dario Amodei aseguró que temía que un grupo de agentes de IA pudiera, al ritmo actual, «tomar el control de todo internet» en un plazo de entre seis y 12 meses.. El martes, ante los periodistas, Sam Altman aseguró que OpenAI estaba invirtiendo «más en seguridad, protección, alineamiento y supervisión», al tiempo que rechazó tanto a quienes quieren «avanzar a toda velocidad» como a quienes piden «detenerlo todo ahora».. OpenAI se comprometió a mediados de septiembre, siguiendo los pasos de Anthropic, a contar de forma permanente con evaluadores independientes.. La compañía renunció el lunes a lanzar una nueva versión de su modelo estrella, GPT-6 Astra, considerado demasiado propenso a desviarse de las instrucciones. Sin embargo, la empresa de San Francisco hizo público al día siguiente un modelo intermedio, GPT-6.1 Sol, presentado como casi tan potente como Astra y a un coste muy inferior.. Contrario a cualquier regulación vinculante que pueda obstaculizar la carrera frente a China, Donald Trump reunió el martes a los principales actores estadounidenses del sector y les hizo firmar un código de conducta voluntario para prevenir los riesgos asociados a la IA.. En Estados Unidos no existe actualmente ninguna ley federal que regule estos modelos. El país contempla únicamente, sobre una base voluntaria, someter sus capacidades a una evaluación gubernamental antes de que sean puestas a disposición del público.
Actualidad Económica // elmundo
