El consejero delegado de OpenAI, Sam Altman, dijo estar de acuerdo con partes de una carta abierta del Future of Life Institute firmada por líderes tecnológicos como Tesla.
El consejero delegado, Elon Musk, y el cofundador de Apple, Steve Wozniak, pidieron una pausa de seis meses en la investigación de la IA, pero añadieron que en la carta «faltaban la mayoría de los matices técnicos sobre dónde necesitamos la pausa».
Altman hizo estas declaraciones durante una aparición en vídeo el jueves en un evento del MIT en el que se debatía sobre negocios e IA.
OpenAI crea ChatGPT, un bot de IA que puede crear respuestas humanas a preguntas planteadas por un usuario. El bot ha desatado un frenesí de IA en el mundo de la tecnología. Microsoft utiliza la tecnología de OpenAI en su chatbot Bing y Google acaba de lanzar su competidor Bard.
«Creo que es muy importante actuar con cautela y rigor en las cuestiones de seguridad», añade Altman. «Bard no creo que fuera la mejor manera de hacerlo»
En marzo, Musk, Wozniak y docenas de otros académicos pidieron que se detuvieran de inmediato los «experimentos» de entrenamiento conectados a grandes modelos lingüísticos «más potentes que GPT-4», el principal gran modelo lingüístico de OpenAI, o LLM. Desde entonces, más de 25.000 personas han firmado la carta.
La tecnología GPT de OpenAI atrajo la atención internacional cuando se lanzó ChatGPT en 2022. La tecnología GPT sustenta el chatbot Bing AI de Microsoft y provocó una oleada de inversiones en IA.
«Los laboratorios de IA y los expertos independientes deben aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos externos independientes», dice la carta.
«También estoy de acuerdo en que, a medida que las capacidades se vuelven más y más serias, el listón de la seguridad tiene que subir», dijo Altman en el acto del MIT.
A principios de este año, Altman reconoció que la tecnología de IA le daba «un poco de miedo».
Las preguntas sobre el uso seguro y ético de la IA surgieron en la Casa Blanca, en el Capitolio y en las salas de juntas de todo Estados Unidos.
«Estamos haciendo otras cosas además de GPT-4 que creo que tienen todo tipo de cuestiones de seguridad que es importante abordar y que se dejaron totalmente fuera de la carta», dijo el ejecutivo de OpenAI.
