“La presencia misma de la mente es una presencia política”.
Danielle Carr
El vertiginoso avance de la neurotecnología, con dispositivos que leen y hasta podrían “escribir” en el cerebro, nos obliga a una pregunta incómoda: ¿Qué tan lejos estamos de un mundo donde nuestros pensamientos más íntimos sean una mercancía o, peor aún, un blanco de manipulación? La investigadora científica Linda Kinstler se sumerge en esta realidad, probando interfaces cerebro-computadora (ICC) en el MIT y desentrañando la red de intereses multimillonarios (Neuralink de Elon Musk, Apple, Meta) que impulsan esta carrera.
Este artículo, publicado en The New York Times, es de una relevancia ineludible. Hemos decidido reproducirlo en su totalidad porque Kinstler no solo presenta los asombrosos logros terapéuticos de las ICC (permitir la comunicación a pacientes con ELA, por ejemplo), sino que traza un riguroso arco histórico y ético: desde los polémicos experimentos de control mental de la Guerra Fría (como el MK-Ultra de la CIA) hasta la urgencia de legislar los “neuroderechos” a nivel global. Es crucial que entendamos los riesgos de un futuro donde la libertad cognitiva -el derecho a controlar nuestra propia conciencia- puede ser subvertida por una economía de datos que ya ha devorado casi todo lo demás. Este texto es una llamada a la reflexión urgente sobre la única frontera de privacidad que nos queda: la mente.
…………………
Una tarde reciente, en la sede minimalista del Laboratorio de Medios del MIT, la investigadora científica Nataliya Kosmyna me dio un par de gruesas gafas grises para que me las probara. Parecían casi normales, excepto por las tres tiras plateadas de su interior, cada una equipada con una serie de sensores eléctricos. Colocó un pequeño balón de fútbol robótico sobre la mesa que teníamos delante y me sugirió que hiciera algo de “cálculo mental básico”. Empecé a repasar múltiplos de 17 mentalmente.
Al cabo de unos segundos, el balón de fútbol se iluminó y giró. Parecía que lo había hecho mover con la fuerza de mi mente, aunque eso no fue mi intención en ningún sentido. Mi actividad cerebral estaba conectada a un objeto extraño.
“Concéntrate, concéntrate”, dijo Kosmyna. La bola volvió a girar. “Bien”, dijo. “Vas a mejorar”.
Kosmyna, quien también es investigadora visitante en Google, diseñó las gafas. De hecho, son una sencilla interfaz cerebro-computadora, o ICC, un conducto entre la mente y la máquina. Cuando mi mente pasó de los 17 a los 34 y a los 51, los sensores de electroencefalografía (EEG) y electrooculografía (EOG) captaron una mayor actividad eléctrica en mis ojos y mi cerebro. El balón había sido programado para iluminarse y girar cada vez que mi nivel de “esfuerzo” neuronal alcanzaba un determinado umbral. Cuando mi atención disminuía, el balón se quedaba quieto.
Por ahora, las gafas se utilizan únicamente con fines de investigación. En el MIT, Kosmyna las ha utilizado para ayudar a pacientes con esclerosis lateral amiotrófica, ELA, a comunicarse con sus cuidadores, pero dijo que recibía varias solicitudes de compra a la semana. Hasta ahora las ha rechazado. Es demasiado consciente de que podrían utilizarse fácilmente de forma indebida.
Los datos neuronales pueden ofrecer una visión sin precedentes del funcionamiento de la mente humana. Las ICC ya son aterradoramente potentes: mediante inteligencia artificial, los científicos han usado ICC para decodificar el “habla imaginada”, formando palabras y frases a partir de datos neuronales; para recrear imágenes mentales (un proceso conocido como decodificación cerebro-imagen); y para rastrear emociones y niveles de energía. Las ICC han permitido a personas con síndrome de enclaustramiento -quienes no pueden moverse ni hablar-, comunicarse con sus familiares y cuidadores e incluso jugar videojuegos. Los científicos han experimentado con el uso de datos neuronales procedentes de imágenes fMRI y señales EEG para detectar la orientación sexual, la ideología política y el engaño, por citar solo algunos ejemplos.
Los avances en optogenética, una técnica científica que utiliza la luz para estimular o suprimir neuronas individuales modificadas genéticamente, podrían permitir a los científicos “escribir” también el cerebro, alterando potencialmente la comprensión y el comportamiento humanos. Los implantes optogenéticos ya son capaces de devolver parcialmente la visión a pacientes con trastornos oculares genéticos; los experimentos de laboratorio han demostrado que la misma técnica puede utilizarse para implantar falsos recuerdos en cerebros de mamíferos, así como para silenciar recuerdos existentes y recuperar los perdidos.
Neuralink, la empresa de tecnología neuronal de Elon Musk, les ha implantado a 12 personas sus dispositivos recargables. “Tú eres tu cerebro, y tus experiencias son estas neuronas disparándose”, dijo Musk en una presentación de Neuralink en junio. “No sabemos qué es la conciencia, pero con Neuralink y los avances que está haciendo la empresa, empezaremos a entender mucho más”.
La empresa de Musk aspira a, con el tiempo, conectar las redes neuronales del interior de nuestros cerebros con las de inteligencia artificial del exterior, creando una vía bidireccional entre la mente y la máquina. Los neuroeticistas han criticado a la empresa por violaciones éticas en los experimentos con animales, por falta de transparencia y por ir demasiado deprisa para introducir la tecnología en sujetos humanos, afirmaciones que la empresa rechaza. “En cierto sentido, estamos ampliando el sustrato fundamental del cerebro”, dijo un ingeniero de Neuralink en la presentación. “Por primera vez, somos capaces de hacer esto en un producto para el mercado de masas”.
La industria de la neurotecnología ya genera miles de millones de dólares de ingresos anuales. Se espera que duplique o triplique su tamaño en la próxima década. En la actualidad, las ICC abarcan desde implantes neuronales hasta dispositivos para llevar puestos, los llamados weareables o ponibles, como diademas, gorras y gafas que se pueden comprar libremente en internet, donde se comercializan como herramientas para la meditación, la concentración y el alivio del estrés. Sam Altman fundó este año su propia empresa emergente de ICC, Merge Labs, como parte de su esfuerzo por lograr que llegue el día en que los humanos se “fusionen” con las máquinas. Jeff Bezos y Bill Gates son inversores en Synchron, compañía competidora de Neuralink.
Aunque las gafas de Kosmyna no estén a la venta, hay tecnología similar en el mercado. En 2023, Apple patentó un prototipo de AirPods equipado con sensores similares, que permitirían al dispositivo monitorear la actividad cerebral y otras de las llamadas bioseñales. El mes pasado, Meta presentó un par de nuevas gafas inteligentes y una “banda neural”, que permite a los usuarios enviar mensajes de texto y navegar por Internet solo con pequeños gestos. En el extranjero, China está acelerando el desarrollo de la tecnología para uso médico y de consumo, y las ICC figuran entre las prioridades de su nuevo plan quinquenal de desarrollo económico.
“Lo que se avecina es IA y neurotecnología integradas en nuestros dispositivos cotidianos”, dijo Nita Farahany, profesora de derecho y filosofía de la Universidad de Duke, quien estudia las tecnologías emergentes. “Básicamente, lo que estamos viendo son interacciones directas de cerebro a IA. Estas cosas van a ser omnipresentes. Podrían llegar a sobrescribir tu sentido de ser”.
Para evitar este tipo de manipulación de la mente, varios países y estados ya han aprobado leyes de privacidad neuronal. En 2021, Chile modificó su Constitución para incluir protecciones explícitas de los “neuroderechos”; España adoptó una lista no vinculante de “derechos digitales” que protege la identidad, la libertad y la dignidad individuales frente a las neurotecnologías. En 2023, las naciones europeas firmaron la Declaración de León sobre neurotecnología, que da prioridad a un enfoque “orientado a los derechos” del sector. Las legislaturas de México, Brasil y Argentina han debatido medidas similares. California, Colorado, Montana y Connecticut han aprobado leyes para proteger los datos neuronales.
El gobierno federal de Estados Unidos también ha empezado a interesarse. En septiembre, tres senadores presentaron el proyecto de la Ley de Gestión de los Datos Neuronales Individuales (MIND), que ordenaría a la Comisión Federal de Comercio que examine cómo deben definirse y protegerse los datos neuronales. La Comisión de Derecho Uniforme, una organización sin ánimo de lucro que elabora modelos de legislación, ha reunido a abogados, filósofos y científicos que están trabajando en la elaboración de una ley estándar sobre privacidad mental que los estados podrían decidir adoptar.
Sin una normativa que regule la compilación de datos neuronales y la comercialización de las ICC, existe la posibilidad real de que nos encontremos aún más unidos a nuestros dispositivos y sus creadores de lo que ya estamos. En los ensayos clínicos, a veces se ha dejado a los pacientes a su suerte; a algunos se les ha tenido que retirar quirúrgicamente la ICC porque se les acabó la financiación del ensayo.
Y la posibilidad de que las neurotecnologías terapéuticas se conviertan algún día en armas con fines políticos se cierne sobre este campo. Musk, por ejemplo, ha expresado su deseo de “destruir el virus de la mente woke”. Como argumentan Quinn Slobodian y Ben Tarnoff en un libro de próxima publicación, no hace falta un gran salto lógico para sospechar que ve Neuralink como parte de una forma de hacerlo.
Del lavado de cerebro a los implantes de ICC
En la década de 1920, el psiquiatra alemán Hans Berger realizó las primeras mediciones de EEG, celebrando el hecho de poder detectar ondas cerebrales “desde el cráneo indemne”. En los años 1940 y 1950, los científicos experimentaron con el uso de electrodos para aliviar los temblores y la epilepsia. El neurofisiólogo español José Delgado saltó a los titulares en 1965 tras utilizar electrodos implantados para detener en seco la embestida de un toro; se jactaba de poder “jugar” con las mentes de monos y gatos como si fueran “juguetes electrónicos”.
En una entrevista de 1970 con The New York Times, Delgado profetizó que pronto seríamos capaces de alterar nuestras propias “funciones mentales” como resultado de los avances genéticos y neurocientíficos. “La cuestión es ¿qué tipo de humanos nos gustaría, idealmente, construir?”, preguntó.
La idea de que un ser humano pudiera “construirse” había inquietado a filósofos, científicos y escritores al menos desde finales del siglo XVIII, cuando los científicos manipularon por primera vez corrientes eléctricas en el interior de cuerpos animales. El lenguaje de la electrificación se filtró rápidamente de la ciencia a la política: la historiadora Samantha Wesner ha demostrado que, en Francia, los revolucionarios jacobinos hablaban de “electrificar” a la gente a fin de reclutarla para su causa y los escritores jugaban con la posibilidad de que el sentimiento político pudiera controlarse eléctricamente.
Dos siglos más tarde, cuando Delgado y sus colegas demostraron que era técnicamente posible utilizar la electricidad para alterar el funcionamiento de la mente animal, esto también vino acompañado de un estallido de preocupación política sobre la relación entre el ciudadano y el Estado. Dado que el sujeto pensante es, por definición, un sujeto político -“la presencia misma de la mente es una presencia política”, afirma Danielle Carr, historiadora de la neurociencia que investiga la historia política y cultural de las ICC y las tecnologías relacionadas-, el potencial para alterar el cerebro humano también se entendió como una amenaza para la propia política liberal.
En Estados Unidos, donde la Guerra Fría alimentó la ansiedad sobre las posibles tecnologías de lavado de cerebro, el trabajo de Delgado se abordó al principio con asombro y confusión, pero pronto cayó bajo una creciente sospecha. En 1953, el director de la CIA, Allen Dulles, advirtió que el gobierno soviético estaba llevando a cabo una forma de “guerra cerebral” para controlar las mentes. En un libro de próxima aparición, Carr rastrea cómo la doctrina liberal de los derechos humanos y las libertades universales, incluida la libertad de pensamiento, se posicionó como un paraguas protector contra la manipulación mental comunista, cooptando luchas preexistentes contra la experimentación psiquiátrica.
Si bien Estados Unidos advertía de la guerra cerebral en el extranjero, también trabajaba para desplegarla en casa. Dulles autorizó la creación del programa clandestino MK-Ultra de la CIA, que durante 20 años llevó a cabo experimentos psiquiátricos y de control mental, a menudo con sujetos involuntarios y encarcelados, hasta que se cerró abruptamente en 1973.
Por aquel entonces, la Universidad de California en Los Ángeles intentó crear un Centro para el Estudio y la Reducción de la Violencia, lo que dio lugar a especulaciones generalizadas de que el centro examinaría a personas en prisiones y hospitales psiquiátricos en busca de indicios de agresividad y luego las sometería a cirugía cerebral. La indignación pública, liderada en parte por los Panteras Negras, acabó con el financiamiento de la iniciativa.
Estos acontecimientos concienciaron a la opinión pública sobre las tecnologías neuronales y contribuyeron a plantear las leyes y los derechos como medida paliativa contra sus peores usos. “Creemos que el control mental y la manipulación del comportamiento son contrarios a las ideas establecidas en la Declaración de Derechos y en la Constitución estadounidense”, argumentó el legislador republicano Steven Symms en un discurso de 1974. En las décadas siguientes, el desarrollo de la neurotecnología se ralentizó drásticamente.
La década de 1990, con el final de la Guerra Fría, disipó las preocupaciones sobre la manipulación de la mente por parte de los comunistas, y el clima político estaba maduro para reconsiderar las promesas y los peligros de la neurotecnología. En 2013, el presidente Barack Obama creó el programa BRAIN (Brain Research Through Advancing Innovative Neurotechnologies), que destinó cientos de millones de dólares a la neurociencia. En 2019, la Agencia de Proyectos de Investigación Avanzada de Defensa del Pentágono anunció que estaba financiando a varios equipos que trabajaban en el desarrollo de neurotecnologías no quirúrgicas que podrían, por ejemplo, permitir a los militares controlar “enjambres de vehículos aéreos no tripulados” con la mente.
A medida que avanzaba la experimentación, también lo hacían los usos médicos y terapéuticos de las ICC. En 2004, Matthew Nagle, un hombre tetrapléjico, se convirtió en el primer ser humano al que se implantó una sofisticada ICC. Para las personas que no pueden moverse ni hablar -quienes padecen enfermedades degenerativas o parálisis, por ejemplo-, los avances en implantes neuronales han sido transformadores.
Este año, Bradford Smith, que vive con ELA y fue la tercera persona en recibir un implante Neuralink, utilizó el chatbot de IA Grok para redactar sus mensajes de la plataforma X. “Neuralink no lee mis pensamientos más profundos ni las palabras que pienso”, explica Smith en un video generado por la IA sobre su experiencia. “Solo lee cómo quiero moverme y mueve el cursor a donde yo deseo”.
Debido a que recibió el implante como parte de un ensayo clínico, los datos neuronales de Smith están protegidos por las normas de la HIPAA que rigen la información privada en materia de salud. Pero para los dispositivos de consumo masivo -como las diademas y gafas de EEG, por ejemplo, que pueden utilizarse para mejorar la cognición, la concentración y la productividad, en lugar de simplemente restaurar las funciones cerebrales que se han visto comprometidas- existen muy pocas protecciones de datos.
“La fusión de dispositivos médicos y de consumo, y la falta de una definición coherente de los propios datos neuronales, aumenta la confusión sobre lo que está en juego”, dijo Leigh Hochberg, médico especialista en cuidados neurointensivos, neurocientífico y director de los ensayos clínicos de BrainGate. “Es una buena conversación que debemos tener como sociedad, para reflexionar sobre lo que individualmente creemos que debe seguir siendo privado”.
¿Nuevos derechos para una nueva tecnología?
En 2017, impulsado por un sentimiento de responsabilidad y terror ante las implicaciones de sus propias investigaciones, Rafael Yuste, neurocientífico de la Universidad de Columbia, convocó a científicos, filósofos, ingenieros y personal clínico para crear un conjunto de directrices éticas para el desarrollo de neurotecnologías.
Una de las principales recomendaciones del grupo fue que los derechos neuronales que protegen la identidad, la agencia y la privacidad individuales, así como la igualdad de acceso y la protección frente a los prejuicios, deben reconocerse como derechos humanos básicos y estar protegidos por la ley. Yuste trabajó con el abogado Jared Genser para crear la Fundación Neurorights en 2021. Juntos, encuestaron a 30 empresas de neurotecnología de consumo y descubrieron que todas menos una carecían de alguna “limitación significativa” a la hora de recabar o vender los datos neuronales de los usuarios.
Existe consenso sobre la necesidad de cierta regulación, dados los riesgos de que las empresas y los gobiernos tengan acceso sin restricciones a los datos neuronales, y sobre el hecho de que los derechos humanos existentes ya ofrecen un pequeño grado de protección. Pero neurocientíficos, filósofos, desarrolladores y pacientes discrepan sobre qué tipo de regulaciones deberían existir, y sobre cómo deberían plasmarse estos derechos en las leyes escritas.
“Si seguimos inventando nuevos derechos, corremos el riesgo de no saber dónde acaba uno y empieza el otro”, dijo Andrea Lavazza, filósofo de la Universidad Pegaso de Italia, quien apoya la creación de nuevos derechos. Las Naciones Unidas, la UNESCO y el Foro Económico Mundial han convocado a grupos para investigar las implicaciones de las neurotecnologías en los derechos humanos; se han publicado decenas de documentos de orientación sobre la ética en este campo.
Uno de los propósitos fundamentales de la ley, al menos en Estados Unidos, es proteger al individuo de injerencias injustificadas. Si las neurotecnologías tienen el potencial de descodificar o incluso cambiar los patrones de pensamiento y acción, los activistas creen que la ley tiene la capacidad distintiva de intentar restringir su alcance en las cámaras más recónditas de la mente. Y aunque la libertad de pensamiento, conciencia, opinión, expresión y privacidad están reconocidas como derechos humanos básicos en el derecho internacional, algunos filósofos y abogados sostienen que estas libertades fundamentales deben actualizarse y reinterpretarse para que puedan protegernos en la era de los dispositivos neuronales.
Farahany, profesora de derecho y filosofía en Duke, sostiene que necesitamos reconocer un derecho fundamental a la “libertad cognitiva”, definida como “el derecho y la libertad de controlar la propia conciencia y el proceso electroquímico del pensamiento”.
Pedir el reconocimiento de un nuevo derecho fundamental es hoy un movimiento contracultural. En los últimos años, los derechos humanos y las leyes internacionales diseñadas para protegerlos se han debilitado, mientras que las tecnologías que subyacen al capitalismo de la vigilancia solo se han expandido.
Ya vivimos en un mundo inundado de datos personales, que incluyen información financiera y biológica sensible. Añadir datos neuronales podría no parecer un salto inmenso… o podría cambiarlo todo, ofreciendo a actores externos un portal a nuestros pensamientos y deseos más íntimos.
La aparición de las ICC a mediados del siglo XX fue recibida y finalmente torpedeada por el liberalismo de la Guerra Fría: Dulles advirtió que técnicas de control mental podrían frustrar el proyecto estadounidense de “difundir el evangelio de la libertad”. Hoy carecemos de un lenguaje equivalente para oponernos a la economía de datos aplicada a la mente.
En este contexto, el debate sobre los derechos neuronales es un esfuerzo por garantizar que las protecciones del siglo pasado se mantengan. “Dentro de tres años, tendremos modelos a gran escala de datos neuronales”, dijo Mackenzie Mathis, neurocientífica de la Escuela Politécnica Federal de Lausana.
El reto es garantizar que las personas conserven la capacidad de gestionar el acceso a su ser más íntimo. “Nuestra vida mental es el núcleo de nuestro ser…”, dijo Lavazza.
El colapso de esa seguridad podría ser una invitación a temer un futuro en el que el uso sin restricciones de estas tecnologías haya destruido la sociedad tal como la conocemos. O podría ser una ocasión para replantearnos las políticas que nos han llevado hasta aquí en primer lugar.
