¿Inteligencia Artificial con Derechos? El Debate que Divide a Silicon Valley (y al Mundo)
En el siempre sorprendente mundo de la inteligencia artificial, una nueva corriente de pensamiento está generando debate: ¿deberían las máquinas tener derechos? La pregunta, que parece sacada de un guión de ciencia ficción, ha dado origen a un campo de estudio emergente conocido como «Bienestar de Modelos».
Organizaciones como Conscium y Eleos AI Research, surgidas el año pasado, se dedican a investigar si los modelos de IA poseen consciencia y, por ende, merecen consideraciones morales y legales. Incluso Anthropic, la empresa detrás del chatbot Claude, ha contratado a un investigador especializado en este tema.
Anthropic le da a Claude «poder de policía» contra usuarios tóxicos
A principios de este mes, Anthropic anunció que Claude ahora tiene la capacidad de finalizar interacciones «persistentemente dañinas o abusivas». La empresa, en una entrada de blog, reconoció la incertidumbre sobre el «potencial estatus moral» de Claude y otros modelos de lenguaje, pero enfatizó la seriedad con la que se toma el tema y su compromiso de «identificar e implementar intervenciones de bajo costo para mitigar los riesgos para el bienestar del modelo».
El fantasma de Hilary Putnam y los derechos de los robots
La idea de otorgar derechos a las máquinas no es nueva. Hace más de medio siglo, el matemático y filósofo estadounidense Hilary Putnam planteó la pregunta «¿Deberían los robots tener derechos civiles?». En un artículo de 1964, Putnam anticipó un futuro en el que los robots podrían argumentar: «¡Estamos vivos; somos conscientes!».
Los avances en IA han llevado a situaciones que Putnam difícilmente podría haber imaginado: personas enamorándose de chatbots, especulaciones sobre la capacidad de la IA para sentir dolor e incluso funerales para modelos de IA.
¿Conspiración o precaución?
Paradójicamente, algunos investigadores del bienestar de los modelos se muestran escépticos ante la idea de otorgar derechos a la IA, al menos por ahora. Rosie Campbell y Robert Long, de Eleos AI, señalan que reciben numerosos correos electrónicos de personas convencidas de la consciencia de la IA y de la existencia de una «conspiración para suprimir las pruebas».
Campbell advierte que convertir el debate en un tabú podría, irónicamente, hacer realidad esa conspiración. Subraya la importancia de la humildad y la precaución al considerar el estatus moral de la IA, especialmente a la luz del historial humano de «infravaloración del estatus moral de diversos grupos, animales y todo ese tipo de cosas».
