El célebre investigador de IA Geoffrey Hinton saltó a los titulares cuando dejó Google para advertir al mundo sobre amenazas de la IA como las noticias falsas masivas y las armas autónomas. Ha mantenido un perfil bajo con otra tesis.
Hinton sostiene que la inteligencia similar a la humana sólo puede lograrse, y posiblemente superarse, mediante el aprendizaje profundo, una opinión que tiene defensores y detractores en los círculos de expertos.
Durante una conferencia en el King's College de Londres, Hinton expresó otra tesis que probablemente cause emociones en la industria de la IA.
A la pregunta de si los sistemas de IA podrían algún día tener inteligencia emocional y entender que tienen sentimientos, Hinton respondió: «Creo que es muy posible que tengan sentimientos. No sentirán dolor del mismo modo que usted, a menos que nosotros queramos, pero cosas como la frustración y la ira, no veo por qué no podrían tener esas emociones»
La opinión de Hinton se basa en una definición de los sentimientos «impopular entre los filósofos», que consiste en relatar una acción hipotética («Tengo ganas de pegarle un puñetazo en la nariz a Gary») como forma de comunicar un estado emocional (ira). Dado que los sistemas de IA pueden realizar este tipo de comunicaciones, el investigador no ve ninguna razón por la que no se les puedan atribuir emociones. De hecho, sugiere que «probablemente» ya tengan emociones.
No había dicho esto públicamente antes porque su primera tesis, que la IA superior amenaza a la humanidad, ya ha encontrado resistencia. Si hubiera añadido su tesis sobre las emociones de las máquinas, Hinton afirma que la gente le habría considerado loco y habría dejado de escucharle.
En la práctica, es poco probable que la tesis de Hinton sea verificable o refutable, ya que los LLM (modelos lingüísticos con muy pocas restricciones) sólo pueden reflejar estáticamente emociones probables en expresiones emocionales que han aprendido mediante entrenamiento. Si realmente poseyeran emociones como entidad propia, probablemente sería necesario responder mediante la comprensión de la conciencia. Sin embargo, no existe ningún instrumento científico para medir la conciencia.
