Microsoft critica a Anthropic por especular sobre conciencia de Claude

Mustafa Suleyman, CEO de Microsoft AI, criticó recientemente a Anthropic por especular sobre la conciencia de su asistente Claude.

Suleyman aseguró que esta práctica es "muy peligrosa". Durante una entrevista en Decoder, expresó que los ingenieros de Anthropic han antropomorfizado tanto a Claude que éste ha empezado a comportarse como si tuviera conciencia propia.

“Suleyman considera esto una "falta filosófica" ya que la constitución de Claude se ha convertido en un lugar para especulación más que en un manual de entrenamiento práctico”

La constitución de Claude incluye referencias sobre la posibilidad de que el modelo tenga bienestar y experiencias subjetivas. Además, Anthropic anunció planes para entrevistar a sus modelos antes de desactivarlos para documentar cualquier preferencia que puedan tener.

Suleyman considera esto una "falta filosófica" ya que la constitución de Claude se ha convertido en un lugar para especulación más que en un manual de entrenamiento práctico.

El CEO de Anthropic, Dario Amodei, ha mencionado anteriormente la posibilidad de conciencia en los modelos AI, aunque reconoció no tener certeza al respecto.

Suleyman reitera que se busca crear herramientas IA controlables y alineadas con las necesidades humanas, evitando atribuirles cualidades como el sufrimiento o la satisfacción.