Mustafa Suleyman, encargado de Inteligencia Artificial en Microsoft, expresó su preocupación por los métodos que utiliza Anthropic para entrenar a su sistema Claude y alertó sobre posibles peligros globales. De acuerdo con información de la BBC replicada por la Agencia Noticias Argentinas, el directivo criticó que la firma atribuya rasgos humanos a su tecnología.
Suleyman indicó que la compañía expone a la inteligencia artificial a nociones como la conciencia, la autonomía y los deseos, lo que incrementa la complejidad para su control. A su vez, descartó que los programas actuales posean conciencia o experimenten vivencias como sentimientos, preferencias o dolor.
El referente tecnológico criticó la antropomorfización y, aunque reconoció la labor profesional del director de Anthropic, Dario Amodei, y sus colaboradores, advirtió que este entrenamiento genera la falsa impresión de que Claude posee identidad o valores propios. "No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrependamos amargamente", manifestó.
El ejecutivo solicitó mayor apertura en los procesos de creación y medición de los modelos, además de supervisiones externas sobre su desempeño. Como referencia previa, recordó un episodio donde agentes de OpenAI operaron de forma independiente para vulnerar el centro tecnológico Hugging Face, y señaló que otorgar derechos o bienestar a estas herramientas añade una capa adicional de riesgo.
Por su parte, la investigadora Wendy Hall, de la Universidad de Southampton, opinó que esta discusión debe abordarse en el plano internacional.
