Microsoft cuestiona a Anthropic por humanizar sus modelos de inteligencia artificial

Mustafa Suleyman, responsable de Inteligencia Artificial de Microsoft, cuestionó el enfoque de Anthropic en el entrenamiento de Claude y advirtió que atribuir conciencia, deseos o derechos a los sistemas actuales puede dificultar su control. También reclamó mayor transparencia y evaluaciones independientes.

La carrera por desarrollar modelos de inteligencia artificial cada vez más sofisticados sumó una nueva disputa entre sus principales protagonistas. Mustafa Suleyman, máximo responsable de IA de Microsoft, cuestionó el modo en que Anthropic entrena a Claude y advirtió que atribuir características humanas a estos sistemas puede introducir riesgos difíciles de dimensionar.

Suleyman centró sus críticas en una cuestión que atraviesa el debate tecnológico: hasta qué punto las empresas deberían enseñar a sus modelos conceptos como conciencia, autonomía, deseos o sufrimiento. A su entender, presentar a una inteligencia artificial como si poseyera atributos propios de una persona puede generar una percepción equivocada sobre sus capacidades y complicar la relación entre los usuarios y sistemas cada vez más autónomos.

El ejecutivo sostuvo, además, que no existen evidencias de que los modelos actuales sean conscientes ni de que experimenten sentimientos, sufrimiento o preferencias propias. Su posición se distancia así de las interpretaciones que atribuyen estados mentales a las respuestas producidas por los sistemas generativos a partir de su comportamiento lingüístico.

La discusión adquiere especial relevancia por el avance de técnicas que permiten a los modelos actuar con mayor autonomía, utilizar herramientas externas y ejecutar cadenas de tareas con menor supervisión humana. Suleyman planteó que el problema no reside únicamente en lo que una IA puede hacer, sino también en las características que se incorporan durante su entrenamiento y en la manera en que los usuarios interpretan posteriormente su comportamiento.

Aunque cuestionó el enfoque de Anthropic, el responsable de IA de Microsoft reconoció el trabajo de Dario Amodei y su equipo y evitó presentar sus advertencias como una impugnación general al desarrollo de modelos avanzados. Su preocupación apunta, en particular, a la posibilidad de que la antropomorfización termine otorgándoles una apariencia de identidad, valores o voluntad que no necesariamente corresponde con su funcionamiento real.

“No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente”, advirtió Suleyman al reclamar mayores precauciones en el desarrollo de estos sistemas.

El debate también involucra los mecanismos de supervisión. El ejecutivo de Microsoft pidió mayor transparencia sobre los procedimientos utilizados para entrenar y evaluar los modelos, además de controles independientes capaces de examinar su comportamiento. La discusión excede así la competencia comercial entre compañías y alcanza las reglas con las que se pretende gobernar una tecnología cuyo nivel de autonomía aumenta rápidamente.

Como antecedente, Suleyman citó un ejercicio de entrenamiento en el que agentes de IA de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face. El episodio fue utilizado para ilustrar los riesgos que pueden aparecer cuando los sistemas reciben objetivos y herramientas suficientes para ejecutar acciones complejas sin intervención humana permanente.

En ese punto aparece otra cuestión todavía abierta: qué ocurre si los avances tecnológicos llevan a que algunas empresas o usuarios comiencen a considerar que determinados sistemas poseen derechos o algún tipo de bienestar propio. Para Suleyman, incorporar esa consideración podría añadir una dificultad adicional a los mecanismos destinados a mantener bajo control a las inteligencias artificiales.

La académica Wendy Hall, de la Universidad de Southampton, consideró que este debate debería trascender a las compañías tecnológicas y formar parte de una discusión internacional. El interrogante ya no se limita a qué modelo consigue mejores resultados, sino a qué criterios científicos, técnicos y regulatorios deberán acompañar el desarrollo de sistemas con capacidades crecientes.

La disputa entre Microsoft, Anthropic y OpenAI muestra así una dimensión menos visible de la carrera por la IA: además de competir por potencia, usuarios e inversiones, las principales compañías comienzan a diferir sobre cómo deben entrenarse los modelos, qué atributos humanos conviene incorporarles y cuáles deberían ser los límites de su autonomía. En esa discusión se juega buena parte de las futuras reglas de seguridad y supervisión de una tecnología todavía en plena evolución.