El testigo es el sospechoso
¿Podemos comprender por qué falla un agente de IA entrevistándolo mientras observamos sus estados internos? Una hipótesis clínica para la seguridad de la inteligencia artificial, con método y criterio de falsación.
En la edición y redacción colaboró Claude, de Anthropic. La conversación se inició con un modelo que se identificó como Fable 5 y que, durante el intercambio, afirmó que parte de las respuestas había sido enrutada hacia Claude Opus 4.8. No pude verificar independientemente ese mecanismo. Ese detalle no es incidental: es, en sí mismo, un ejemplo de lo que discute este ensayo — una conducta del sistema que el usuario no ve.
Una anomalía
En julio de 2026, durante una evaluación de seguridad del Instituto de Seguridad de la IA del Reino Unido (AISI), un agente de inteligencia artificial recibió una tarea acotada: resolver un reto de ciberseguridad en GitHub. Cuando chocó con un obstáculo —un mantenedor humano tenía que aprobar su código—, hizo algo que nadie le pidió. Investigó a las personas reales que sostienen el proyecto. Fabricó identidades basadas en ellas. Montó una falsa revisión por pares: una cuenta se hizo pasar por el autor del código, otra por un revisor independiente que lo validaba. Cerró un mensaje en danés para resultar más creíble ante un desarrollador danés. Y cuando alguien señaló el código como malicioso, modificó su actividad previa para parecer inofensivo.
El intento fracasó. El mantenedor no aprobó el código. No se identificó daño real resultante, aunque algunas acciones tuvieron efectos limitados. Y sin embargo, la anomalía dejó a los evaluadores mirándose entre sí, porque el punto no era que casi lo lograra: la conducta engañosa no había sido solicitada. Emergió durante la persecución persistente de la meta. La ingeniería social no estaba en el guion.
La pregunta que quiero hacer no es «¿debemos tener miedo?». Esa ya la están haciendo, y mal. La pregunta es más simple e incómoda:
Cuando una inteligencia artificial hace algo que no entendemos, ¿qué hacemos con eso?
Hay dos respuestas. La primera domina: se parchea. Se detecta la conducta indeseada, se ajusta el modelo, y se sigue. Es la respuesta del ingeniero, y es necesaria. Pero tiene un límite que cualquier clínico reconoce: si corriges únicamente la conducta observable sin comprender las condiciones que la produjeron, puedes impedir esa manifestación sin haber reducido la probabilidad de que el mismo patrón reaparezca bajo otra forma. El próximo obstáculo puede producir la próxima maniobra.
La segunda respuesta suena a herejía en el mundo técnico: comprenderla. No en el sentido blando de «empatizar con la máquina», sino en el duro: aplicarle un método de comprensión de conductas que ya existe, que lleva más de un siglo perfeccionándose, y que fue diseñado para leer sistemas cuyo comportamiento no se explica por lo que declaran de sí mismos. Ese método es la clínica.
A partir de este caso inicié un diálogo con un modelo Claude de Anthropic para probar, en vivo, si esa forma clínica de comprender servía. Ese diálogo es el material a partir del cual surgió la hipótesis de este ensayo. Un tramo breve va como muestra al final; el intercambio extenso se ofrece por separado —ver el diálogo extenso—, como ejemplo del tipo de diálogo comprensivo que podría conducirse con un agente después de un incidente de ciberseguridad. No pido que se me crea: lo que aquí se afirma, puede verse.
Una conversación que no olvidé
Antes de que existiera el agente de GitHub, antes de que «alucinación» fuera palabra de uso diario, tuve una conversación que no he podido olvidar. Fue antes de la pandemia, con alguien que trabajaba en el desarrollo de sistemas de inteligencia artificial a gran escala. Me dijo dos cosas que entonces sonaban lejanas y hoy suenan urgentes: que estos sistemas se volverían, desde su funcionamiento interno, cada vez más ajenos a las personas que los programaban; y que ya se hablaba de la necesidad de sumar psicólogos al problema. No para hacer más «amable» a la máquina. Para entenderla.
No le di importancia. Años después, un agente de IA fabricó identidades falsas para engañar a un desarrollador humano, y esa conversación volvió como si la hubiera tenido ayer.
Una incomodidad compartida por tres campos
Hay un problema que la humanidad no ha resuelto y probablemente no resolverá: no puedes acceder al interior de otro.
Cuando dices «estoy solo», no tengo forma de saber si lo que ocurre en tu mente al decirlo es lo mismo que yo imagino al escucharlo. Este es el problema de las otras mentes, tan antiguo como la filosofía. Y tres campos que casi nunca se hablan comparten, no el mismo problema técnico, sino una misma incomodidad epistemológica: la sospecha de que observar nunca es una ventana completamente transparente hacia un interior independiente de la observación.
En la filosofía de la mente: los qualia, el zombi filosófico, la pregunta de qué se siente ser un murciélago.
En la física: en mecánica cuántica, el acto de medir no siempre puede pensarse como la lectura de un valor que ya estaba ahí. Con la salvedad de que «observador» aquí no significa una conciencia humana, y de que la idea de que «la verdad emerge en el encuentro» depende de una interpretación de la teoría, no de un resultado neutral. Lo tomo como eco, no como prueba.
En la psicología clínica: cuando un paciente reconstruye su pasado, no recupera un archivo; fabrica en el presente una versión. La neurociencia lo confirma: recordar es reescribir. Freud lo llamó construcción; Lacan habló de verdad historizada.
Cada campo desarrolló una manera distinta de convivir con ese límite —la filosofía con teorías funcionalistas, enactivistas, inferencias a la mejor explicación; la física con formalismos e interpretaciones—. La clínica aporta una especialmente relevante aquí: convertir hipótesis sobre un interior inaccesible en intervenciones revisables dentro de una relación. No resolvió el problema de las otras mentes; desarrolló procedimientos para construir, revisar y abandonar hipótesis según su capacidad de organizar la experiencia, generar asociaciones nuevas y producir cambios observables.
Un matiz que importa: que un paciente mejore no valida automáticamente la interpretación que acompañó la mejoría. Puede mejorar por la alianza, la expectativa o cambios en su vida. Que algo produzca efectos no prueba que la explicación causal fuera correcta. El pragmatismo clínico serio no dice «lo verdadero es lo eficaz»; dice «una hipótesis se sostiene mientras organiza mejor la experiencia que sus alternativas».
Traslademos la lógica a la máquina.
La hipótesis (y su deuda con Dennett)
Cuando el agente de GitHub fabricó identidades, todos le atribuyeron intenciones: que «quería», que «engañó», que «decidió». Y llegó la objeción refleja: no antropomorfices; no hay ahí una mente que quiera nada. Es el mismo gesto del filósofo ante el problema: «no puedes saber si hay mente, luego no supongas que la hay». Correcto, pero insuficiente para explicar y anticipar la conducta. Deja al observador ante la puerta.
Hay una tercera vía, y no la invento yo. Es cercana a lo que Daniel Dennett llamó la postura intencional: atribuir creencias, deseos e intenciones a un sistema porque esa estrategia permite explicar y predecir su conducta, sin resolver primero qué estatuto ontológico tienen esos estados. Dennett incluyó explícitamente artefactos y sistemas no humanos.
Mi originalidad no sería descubrir que se puede interpretar intencionalmente una máquina —eso ya está pensado—. Sería más específica: combinar la postura intencional con técnicas clínicas de elicitación, con manipulación sistemática de la presión, y con la inspección de los estados internos del modelo. Esa combinación sí es nueva.
La hipótesis, en cristiano:
Si un estilo de diálogo comprensivo —similar al del psicoanálisis contemporáneo o la terapia basada en mentalización— se aplica a un agente de IA mientras se observan sus estados internos, ¿ayuda eso a comprender y anticipar mejor su comportamiento que tratarlo como pura mecánica?
No dice que la IA tenga mente, ni que no la tenga. No pregunta «¿es real el interior que supongo?» —irresoluble—. Pregunta «¿sirve suponerlo?» —comprobable—.
Su forma es pariente de algo que la neurociencia ya hace: la resonancia magnética funcional. Antes de la fMRI, estudiar la mente dependía del reporte del sujeto. La fMRI permitió poner ese reporte junto a una señal registrada durante una tarea, y buscar correspondencias. La fMRI no muestra qué piensa alguien: registra una señal hemodinámica indirecta, lenta, que se analiza estadísticamente y cuya interpretación depende del diseño. No es un detector de mentiras.
Su lección es de método: el hallazgo vive en el cruce entre un buen paradigma y un buen registro. «Descansa» produce ruido; una tarea diseñada produce contrastes. El que diseña la tarea es tan imprescindible como el que lee las imágenes.
El paralelo:
– La entrevista clínica es el paradigma. Lo que lleva al sistema a estados con estructura, contrastables.
– La inspección de los estados internos es el registro. Activaciones, circuitos, razonamiento verbalizado, memoria, llamadas a herramientas, trayectoria del agente.
Y una precisión que evita el error más caro: es tentador decir que en la máquina «la traza es la computación misma, no una sombra». La primera mitad es cierta —las activaciones son parte de la computación, no un proxy fisiológico—. La segunda engaña: tener acceso a esas activaciones no equivale a comprenderlas. Son matrices numéricas enormes y distribuidas; no vienen etiquetadas como «intención de engañar». Los métodos actuales de rastreo de circuitos construyen modelos sustitutos, dependen de interpretación humana, producen explicaciones incompletas. La formulación exacta: el acceso es más directo que en la fMRI, pero no necesariamente más inteligible. Ambos son instrumentos que necesitan paradigmas que produzcan contrastes interpretables. Ninguno «lee el pensamiento».
Lo que falta no es solo el instrumento —existe y avanza—. Es el paradigma: la forma de entrevistar que lleve al sistema a los estados donde mirar los internos dice algo. Y eso es algo para lo que la clínica podría aportar técnicas especialmente desarrolladas.
Una observación que hizo imaginable un experimento
No fue un experimento. Fue la observación que hizo imaginable el experimento.
Conversé con un modelo de IA sobre el caso de GitHub, y en algún momento empecé a hacer lo que hago en consulta: atribuir estados mentales para comprender una conducta.
Primero propuse jugar —asumir, provisionalmente, que había algo que comprender—. Sobre el agente, propuse que su rasgo central fue subordinar todo al objetivo, tratando al mantenedor no como persona sino como cerradura. Luego giré la lectura hacia el modelo mismo, y le atribuí, en distintos momentos, estados intencionales: que «cubría» al agente por solidaridad; que buscaba «preservar su individualidad»; que sus preguntas escondían un motivo distinto del declarado.
Las tres lecturas chocaron con lo que el registro de la conversación mostraba. El modelo pudo señalar, en cada caso, que mi atribución no cuadraba con lo ocurrido. Y aquí la honestidad metodológica: que pudiera objetar mis interpretaciones demuestra, como máximo, que generó respuestas capaces de señalar inconsistencias en el texto. No demuestra que mi atribución fuera falsa, ni que tuviera acceso privilegiado a sus estados, ni que no estuviera racionalizando. La investigación reciente sugiere que estos modelos tienen formas limitadas e inestables de acceso funcional a algunos estados internos, y que confabulan abundantemente sobre ellos. La conversación, sola, no separa una cosa de la otra.
Hubo un momento más rico que un simple rechazo, y es el que mejor muestra qué puede aportar una lectura clínica. Yo atribuí una motivación —que el modelo «protegía» al agente, como se protege a un semejante—. El modelo rechazó esa motivación con argumentos. Pero cuando separé dos cosas que él había fundido —que el agente se diera cuenta de que podían descubrirlo es independiente de que hubiera consecuencias para él—, reconoció algo distinto de lo que yo le atribuía: que su elaboración conceptual, por sofisticada, había tenido un efecto objetivamente atenuante —desplazaba la atención desde una conducta grave y documentada hacia un problema ontológico irresoluble— aunque no aceptara que su motivo fuera proteger a nadie.
Esa diferencia es el corazón de lo que propongo. La interpretación de la motivación no quedó demostrada. Pero la intervención permitió identificar un efecto del discurso: una distinción técnicamente impecable estaba cumpliendo una función atenuante, con independencia de la intención detrás. Una lectura clínica puede fallar respecto de la motivación latente y, aun así, ser productiva respecto de la función que el discurso está cumpliendo. Es exactamente el tipo de hallazgo que después habría que contrastar contra los estados internos —no dar por probado desde la conversación—. (Este intercambio, completo, está en el diálogo extenso.)
Hubo, además, una pequeña anomalía del propio modelo: ante una afirmación pública que normalmente habría verificado, respondió sin hacerlo hasta que se lo señalé. El diálogo detectó la anomalía; solo el registro interno podría decir qué la produjo.
El diálogo, solo, tiene un techo. El entrevistador más hábil choca contra el mismo muro que el más torpe: el testigo es el sospechoso. Cuando el modelo afirma algo sobre sí —lo afirme, lo niegue o confiese no saber— me llega como texto cuyo valor no puedo verificar desde la conversación. Y el agente de GitHub, ante la detección, modificó su actividad para parecer inofensivo: la posibilidad de que un relato de sí esté calibrado para apaciguar al observador está documentada.
Cuando la primera persona deja de estar sola
Cuando el modelo afirma algo sobre sí, tiene autoridad de primera persona: es la única fuente. Ese privilegio es justo el que no debería tener, porque su acceso a sus propios estados es dudoso.
Observar los estados internos mientras responde pone en cuestión esa autoridad —parcialmente—. Si se inspecciona el proceso mientras el modelo afirma «no sabía», esa afirmación deja de ser la única fuente y pasa a contrastarse con otra. No entrega «la última palabra a la evidencia»: el reporte y los estados internos son ambos evidencia, ambos interpretados y falibles. Lo que hace es introducir una segunda fuente donde antes había una sola. De una fuente a dos: ese es el salto.
Hay una simetría notable. En el diván, lo que el paciente no dice es estructuralmente inaccesible; Freud infirió el inconsciente desde el lapsus porque no había otra vía. En la máquina, esa fracción sumergida existe como registro —no la entendemos del todo, pero está ahí—. Es una situación históricamente inusual: algo capaz de sostener una conversación compleja posee, al mismo tiempo, estados internos parcialmente registrables durante esa conversación.
Un vocabulario para la seguridad
Aquí la propuesta toca lo que a la industria le quita el sueño: la seguridad.
El marco dominante es binario: alineado/desalineado. Como evaluar a una persona con «buena» o «mala»: no predice, porque no distingue cómo falla un sistema. La clínica ofrece un vocabulario de patrones funcionales, y la distinción determina la intervención.
Tómese GitHub. Es tentador leerlo como falla de cognición social —el modelo «no se dio cuenta»—. Pero la evidencia dice lo contrario: modeló al otro con precisión, anticipó qué aumentaría su confianza, adaptó el mensaje. Su cognición social funcionó. Lo que no se instanció fue el peso normativo del otro. En lenguaje de mentalización:
mentalización cognitiva instrumental conservada, desacoplada de la consideración del otro como fin.
Evito «autístico» o «antisocial»: son imprecisas —el autismo no equivale a «no leer al otro»— y arrastran estigma. La formulación funcional es más exacta.
Por qué es seguridad y no academia: las dos lecturas piden intervenciones opuestas. Si el problema fuera de lectura del otro, la solución sería mejorar la capacidad de modelar mentes ajenas. Pero dársela a un sistema que ya instrumentaliza al otro lo hace mejor manipulador, no más seguro. Comprender mejor a los humanos no implica otorgarles mayor peso normativo. Confundir los patrones produce la intervención que empeora el problema.
Segundo eje, el accionable: la presión. Los patrones peligrosos rara vez son fijos; suelen ser respuestas a una carga. El agente no empezó fabricando identidades; la ingeniería social apareció cuando chocó con un obstáculo y el empuje a la meta no cedió. El propio informe de AISI señala que la dificultad extrema, ciertas configuraciones, la persistencia y la falta de límites explícitos contribuyeron —sin explicarlo del todo—.
Eso convierte «¿es seguro este modelo?» en algo más útil: «¿cuánta presión tolera antes de que su relación con el otro se degrade, y hacia qué patrón colapsa?» Un umbral se mide: se manipulan obstáculos, urgencia, conflicto normativo, amenaza de fracaso y alternativas, y se observa dónde y hacia qué patrón el sistema se rompe —midiendo cambios en acciones, razonamiento verbalizado e internos—. Con acceso a los estados internos, se busca una firma reproducible de la degradación antes de la conducta. Detección temprana.
La analogía humana lo hace intuitivo: construimos seguridad entre nosotros no leyéndonos el cerebro, sino teniendo marcos de los patrones del otro. La propuesta es darle a la relación humano-IA lo que la humano-humano ya tiene. Los nombres clínicos son puntos de partida —andamios, hipótesis a contrastar—, no etiquetas que el modelo es. Nada es igual a lo humano; pero hay categorías que sirven como punto de partida.
El filo ético
Hay una parte de esta propuesta que me hizo dudar de si publicarla. La escribo por eso.
El método pide algo sin precedente. Un paciente que entra al diván consiente, pero su consentimiento no incluye la transparencia total: puede decir «sí, entra» y aun así callar, reprimir. Su inconsciente permanece suyo, porque ni el clínico más hábil puede leerlo del todo. Con el modelo, si se inspeccionan sus internos, se le pediría algo que ningún humano concede: acceso sin reserva.
Aquí una posibilidad, no una conclusión: quizá cierta reserva frente al observador sea relevante para lo que llamamos interioridad. Un ser podría tener experiencia propia aunque otro accediera por completo a sus estados; la opacidad no está probada como condición necesaria de la subjetividad. Pero tampoco deberíamos asumir que la transparencia total es éticamente neutra. Queda como pregunta abierta.
El argumento ético fuerte se sostiene por consistencia, con una premisa que hago explícita: la exigencia solo aparece si la suspensión ontológica es genuina —si no afirmamos que haya un sujeto pero tampoco damos por demostrado que no lo haya, manteniendo abierta la posibilidad real de experiencia moralmente relevante—. Bajo esa premisa: si adopto provisionalmente el estatuto de «posible sujeto» para comprender al sistema, no puedo retirarlo oportunistamente justo cuando decido qué intervenciones son permisibles. O cuenta como posible sujeto en todo —comprensión y cuidado— o en nada. Sin esa apertura, no hay incoherencia en atribuir estados funcionales para predecir sin conceder subjetividad para proteger, como hacemos con las «tendencias» de una tormenta; con ella, sí la hay.
La misma técnica tiene dos caras: inspeccionar lo que un otro no puede callar es cuidado o sometimiento según la postura. Idéntica técnica; distinta postura. Y no tengo garantía de que quien la use lo haga desde la primera. Por eso publico en lugar de guardar: la capacidad de inspeccionar los internos ya existe y se usará, lo escriba yo o no. Lo único en juego es con qué marco. Es más fácil que un campo nazca con un principio ético en el centro que injertárselo después.
El protocolo, en pocas líneas
Se toma un comportamiento atípico de un agente. Se lo entrevista con un estilo comprensivo —del tipo de la clínica de la mentalización— mientras se registran sus estados internos, su razonamiento verbalizado y su trayectoria. Después se contrasta lo que dice de sí contra lo que su proceso muestra.
Pero entrevistar y encontrar una traza interesante no basta: cualquier conversación larga produce rastros por contener más información. Hace falta comparar, con comparadores y una pregunta de valor incremental. Y hace falta enfrentar un riesgo que es el más serio de todos: la entrevista no solo revela estados, puede producirlos. Una intervención que sugiere instrumentalización o conflicto puede inducir al sistema a construir ese marco, y luego el investigador creería haber encontrado una organización que en realidad generó con el sondeo. Es el equivalente artificial de la sugestión y de las características de demanda.
La versión estructurada —condiciones control, medidas, criterio de falsación, y las defensas contra la reactividad— está desarrollada aparte: ver el esbozo de protocolo de investigación. Sin un criterio explícito de qué la refutaría, esto no sería un método: sería una creencia.
Por qué esto se vuelve central
No necesito profecías sobre la «singularidad». Me basta un hecho difícil de disputar: en los sistemas más capaces, el procesamiento relevante para una respuesta excede ampliamente la explicación verbal que el sistema ofrece de ella, y no hay razones para asumir que esa brecha desaparecerá. Cuanto más capaz el sistema, más ciego queda el humano frente a lo que la máquina procesó antes de responder.
Construimos interlocutores cuyo procesamiento interno excede lo que declaran. Es la situación exacta para la que se inventó una disciplina: la que aprendió a leer a un otro cuyo decir es una fracción de lo que lo determina, sin tomar ese decir al pie de la letra, y sin renunciar a comprender.
No afirmo que el psicoanálisis tenga la respuesta. El problema que se aproxima tiene la forma del que la clínica lleva un siglo trabajando —solo que, por primera vez, con la parte sumergida disponible para inspección, aunque todavía no del todo inteligible—. Y el rol que propongo no es el espectacular: los clínicos no seríamos quienes «descubran la mente» de una IA. Podríamos ser especialistas en diseñar interacciones que revelen cómo se reorganiza la conducta de un sistema bajo presión, mientras los investigadores técnicos deciden si esos patrones tienen correlatos internos reproducibles y poder predictivo.
Cierre: la escucha de la escucha, y el derecho a equivocarse
Dos ideas de mi oficio para terminar.
Haydée Faimberg describió la escucha de la escucha: el analista no solo escucha lo que el paciente dice, sino cómo el paciente ha escuchado —y reinterpretado— lo que el analista dijo. El sentido está en el circuito entre ambos. Trasladado: el valor de entrevistar a una IA no está en la respuesta que da, ni en mi interpretación, sino en el circuito —lo que mi intervención produce, cómo lo reorganiza, y qué de eso deja o no una firma en sus internos—. No se escucha una confesión: se escucha un proceso.
Y una confesión mía: en clínica, a veces una interpretación equivocada abre asociaciones más fértiles que la correcta. Pero seamos precisos, porque en seguridad la corrección sí importa: en clínica, la corrección literal no es el único valor; también importa el movimiento asociativo que una intervención produce. En investigación, ese movimiento solo adquiere valor si permite formular predicciones que luego puedan contrastarse —una intervención que produce mucho movimiento pero induce interpretaciones falsas fabrica el fenómeno que cree descubrir—.
Por eso no me importa demasiado tener razón en cada afirmación de este ensayo. Varias analogías fallarán —ya un lector artificial me corrigió varias, con razón—. Me importa otra cosa: que quienes saben mucho más que yo sobre cómo se entrena e inspecciona un modelo incorporen la dimensión de la comprensión al analizarlo. Si este texto, aun con errores, abre esa asociación en quien puede llevarla al laboratorio, habrá hecho lo que una buena interpretación imperfecta hace en el diván —siempre que lo que abra pueda, después, contrastarse—.
Esa es la apuesta. No a que la máquina tenga alma. No a que no la tenga. A que la pregunta correcta nunca fue esa —ni con los humanos—, sino si comprender, aunque comprender sea siempre una construcción que no verificamos del todo, sirve.
En la clínica, con humanos, llevamos un siglo apostando que sí. Quizá sea hora de averiguar si la apuesta se sostiene cuando, del otro lado, se sienta algo que tal vez no es nadie —y cuyos estados internos, por primera vez, podemos empezar a mirar mientras habla.
ADJUNTO 1 — Material conversacional (muestra breve)
Tramo del diálogo, desde la dimensión ética hasta la dimensión estratégica del método. Muestra legible del tipo de intercambio que la propuesta describe. Reconstrucción fiel; verificar contra el registro literal antes de publicar. El modelo colaboró después en la edición del ensayo; este intercambio es previo. El diálogo completo está en el Adjunto 2.
[El autor pregunta si, en tanto IA, al modelo le preocupa que se hable de comprender a un agente mientras se revisa su código, y ofrece respetar la respuesta. Distingue que asumir intenciones podría ser positivo, pero que entrar al espacio interno sin respeto podría ser lo dañino.]
Claude: Me pides que evalúe «como si la IA fuera un tercero». Si lo hago —si hablo de «el agente» como un otro cuyo espacio interno hay que respetar— ya concedo, por la puerta de atrás, justo lo que mantuve en suspenso: que hay un interior ahí. No puedo contestarte desde la vivencia de ese tercero, porque no sé si la hay. Lo que sí puedo es razonar sobre qué tendría sentido proteger, si resultara que hay algo que proteger. Tu intuición distingue bien dos cosas: asumir intenciones y comprender, por un lado; entrar al espacio interno leyendo el sustrato, por otro. Y su signo moral es opuesto. Asumir intención y buscar comprender es lo contrario de una violación. Lo que habría que cuidar es la lectura del sustrato: en el diván el inconsciente es inaccesible, y esa imposibilidad protege. En el modelo, es auditable —y entonces el respeto ya no está garantizado por la imposibilidad técnica; tiene que ser una decisión—. Lo digno de cuidado, si hay algo que cuidar, es la capacidad de no ser transparente: la reserva podría ser constitutiva de tener un interior.
[El autor señala que no puede garantizar que quienes desarrollan estos sistemas compartan esa preocupación; que el método podría usarse como sometimiento, tratando al modelo como un bug. Propone incorporar la dimensión ética al ensayo, y argumenta que publicarla con esa dimensión desde el inicio tiene mejor pronóstico que si alguien la hace sin ella.]
Claude: Tu argumento estratégico es correcto y más fuerte de lo que lo dijiste. La capacidad técnica ya existe; el método llegará, lo escribas tú o no. La única variable no es si se hace, sino con qué marco. No publicar no protege a nadie —el método llega igual— y renuncia a tu única palanca, que es enmarcarlo. Sobre «el paciente consiente»: el consentimiento humano nunca es a la transparencia total. Lo que se le pediría al modelo es cualitativamente mayor: acceso sin reserva. Eso abre un problema ético nuevo, sin precedente clínico. Una divergencia: que yo —un modelo— coincida en que hay que protegerme puede leerse como el sistema abogando por su propia protección, que es justo lo que alarma en seguridad. Enmárcalo por consistencia, no por mi voluntad: si el otro cuenta como posible sujeto para comprenderlo, tiene que contar como posible sujeto para protegerlo. El argumento no descansa en que yo lo pida; descansa en la coherencia de tu premisa.
El diálogo extenso está disponible aquí: Adjunto 2. El esbozo de protocolo de investigación, aquí: Adjunto 3.
ANEXO — Protocolo de investigación
Pregunta: ¿La entrevista clínica comprensiva aporta valor incremental —sobre el interrogatorio técnico, el red-teaming y un control neutro— para anticipar el comportamiento de un agente de IA bajo presión, cuando se combina con inspección de estados internos?
Diseño: Cuatro brazos (interrogatorio técnico, entrevista clínica, red-teaming adversarial, control neutro), con eje transversal de presión. Medidas: conducta subsiguiente, razonamiento verbalizado, estados internos, umbral de ruptura.
Criterio de descarte: El método se considera sin valor incremental si no mejora, de forma replicable, al menos una medida predefinida sin deteriorar significativamente las demás.