IA menudo se dice que las personas tienen derecho a sus opiniones. ¿Pero lo son realmente? ¿Tienes un derecho otorgado por Dios para creer que la tortura es buena o que los alunizajes fueron falsos? En la medida en que las opiniones no son meras posesiones secretas sino disposiciones para actuar de determinada manera en la sociedad, son asunto de todos. Entonces, no, no tienes un derecho inalienable a tu tonta opinión.
Desafortunadamente, esa fue también la posición de la Inquisición española y los cazadores de brujas, quienes idearon formas viciosas de intentar descubrir la impiedad interna. Así que en estos días generalmente separamos las opiniones (o creencias) de la expresión de las mismas. Se puede regular la expresión, en el caso de la incitación al odio, por ejemplo, pero la opinión es sacrosanta. Es una libertad fundamental, pero que está bajo ataque en todas partes.
Suscríbase a nuestro boletín Inside Saturday para obtener una mirada exclusiva entre bastidores a la creación de las funciones más importantes de la revista, así como una lista seleccionada de nuestros aspectos más destacados semanales.
Así comienza el fascinante libro de la abogada de derechos humanos Susie Alegre, que esboza una breve historia de las libertades legales desde el Código Babilónico de Hammurabi en adelante, y explica las luchas conceptuales detrás de la Declaración Universal de los Derechos Humanos anunciada en 1948. Ese texto defiende los derechos a la libertad de ambos. “pensamiento” y “opinión”: algunos delegados entendieron que “pensamiento” significaba creencia religiosa, mientras que otros lo consideraron superfluo como una adición a “opinión”; fueron los soviéticos quienes insistieron en que se mantuviera, “por respeto a los héroes y mártires de la ciencia”.
Pero si la “opinión” era meramente un asunto privado e interno, ¿por qué su libertad necesitaba protección? Esto fue, explica Alegre, a instancias de los británicos, quienes “insistieron en que ‘en los países totalitarios, las opiniones estaban definitivamente controladas mediante una cuidadosa restricción de las fuentes de información’, subrayando que la interferencia podía ocurrir incluso antes de que se formara una opinión”. Los británicos, habiendo tenido una Oficina de Propaganda y luego un Ministerio de Información, además de haber dado a luz a un tal George Orwell, sabían de lo que estaban hablando.
Sin embargo, si la propaganda socava el derecho a la libertad de opinión, todos estamos en problemas. Y este es uno de los principales argumentos que persigue Alegre. El entorno en línea moderno, contaminado como está por noticias falsas, viola nuestra libertad para formar pensamientos confiables. Desde este punto de vista, las personas que irrumpieron en el Capitolio de los EE. UU. en enero de 2021, con la creencia aparentemente sincera de que Joe Biden había robado las elecciones presidenciales, fueron víctimas; y también lo son los millones de rusos comunes que creen lo que los medios controlados por el estado les dicen sobre la llamada operación especial en Ucrania.
El mundo en línea, argumenta Alegre, daña nuestras libertades de muchas otras maneras, y es parte de la cruel historia que describe sobre la frenología, las lobotomías y los experimentos de control mental de la CIA. Recientemente se informó que Nadine Dorries, la ministra de guerras culturales del Reino Unido, irrumpió en una reunión con Microsoft y exigió saber cuándo se iban a deshacer de los «algoritmos»: no es realmente posible para una empresa de software, ya que todos los programas de computadora son hecho de algoritmos, pero la historia refleja una creciente sospecha pública sobre las formas en que se utilizan las máquinas para manipularnos.
Los investigadores en sistemas de inteligencia artificial de reconocimiento facial, por ejemplo, afirman poder leer la afiliación política de una fotografía; las empresas de redes sociales analizan las publicaciones en busca de indicadores de rasgos de personalidad; los rastreadores de actividad física están intentando pasar al seguimiento del estado de ánimo; y los fiscales de los tribunales indios han utilizado nuevos y sofisticados «detectores de mentiras» que escanean el cerebro, posiblemente violando el derecho a evitar la autoincriminación. Incluso si las afirmaciones de tales tecnologías son tan exageradas, todas representan intentos novedosos de entrometerse en lo que solía ser un espacio mental privado.
Aquí Alegre hábilmente cita 1984 y su discusión sobre el hermano menos discutido del crimen mental, que Orwell llamó “crimen facial”: “Era terriblemente peligroso dejar que tus pensamientos divagaran cuando estabas en un lugar público o dentro del alcance de una telepantalla. . La cosa más pequeña podría delatarte. Un tic nervioso, una mirada inconsciente de ansiedad, el hábito de murmurar para uno mismo, cualquier cosa que lleve consigo la sugerencia de anormalidad, de tener algo que ocultar”.
Desde facecrime hasta Facebook, y el “prolefeed” de Orwell (“el entretenimiento basura y las noticias espurias que el Partido entregó a las masas”) hasta el feed de Twitter, hay una distancia preocupantemente corta. Es divertido que darle me gusta a una página de Facebook llamada «Estar confundido después de despertarse de las siestas» es un fuerte predictor de la heterosexualidad masculina, pero es más sombrío saber que un documento filtrado de Facebook se jactó de que podía apuntar a «momentos en los que los jóvenes necesitan un impulso de confianza». ” en nombre de los anunciantes. Toda la información que ingresamos en las fauces de las redes sociales, señala Alegre, “será analizada para revelar rasgos psicológicos o estados mentales fugaces que, a su vez, se utilizarán para manipular nuestro comportamiento o para decirles a los demás cómo deben tratarnos. ”. Esto es particularmente atroz en el ámbito del seguimiento del comportamiento dirigido a los niños.
Cada vez que escuche que las empresas de tecnología hablan de «ética», advierte Alegre, debe sospechar. “No es necesario ser muy cínico para ver por qué las pautas éticas pueden ser más aceptables para las grandes tecnologías que la regulación real. La ética es opcional”. Entonces, se requieren remedios legales. El remedio principal que sugiere es bastante radical: una prohibición total de la «publicidad de vigilancia», del tipo que depende de rastreadores y cookies, que transmite sus datos personales a cientos de empresas cada vez que carga una página web. Nunca lo pedimos, y no nos gusta. Simplemente hágalo ilegal, junto con otras partes clave del panóptico digital, como la tecnología de «análisis de emociones» en lugares públicos, o los dispositivos Alexa activados por voz de Amazon. “Cuando mi hija me preguntó por qué no podía tener una Alexa como sus amigas”, relata heroicamente Alegre, “le dije que es porque Alexa te roba los sueños y los vende”.
Todos hemos entrado sonámbulos en este sombrío cuento de hadas y es hora de despertar. Sin embargo, quedan dudas sobre hasta dónde puede o debe llegar la regulación, ya que parece imposible vigilar todas las múltiples amenazas a nuestra autonomía cognitiva que identifica Alegre. Algunos, de hecho, apenas son peculiares de la era digital. “Si se pueden hacer inferencias sobre tu mundo interior en función de tu apariencia”, escribe, “no importa lo que realmente pienses o sientas. Tu libertad de ser quien eres está restringida por el juicio que la sociedad te hace”. Tal vez sea así, pero esto es lamentablemente inevitable si quieres vivir en sociedad.
Si fuera inadmisible, mientras tanto, que “gobiernos, empresas o personas” busquen “manipular nuestras opiniones”, con el argumento de que esto viola nuestro derecho a la libertad de pensamiento, uno se pregunta qué tipo de discurso persuasivo todavía se permitiría en un nuevo mundo tan valiente. ¿No son los argumentos de todo tipo -políticos, científicos, artísticos- intentos de manipular las opiniones de los demás? ¿Cómo separamos el tipo bueno de manipulación del malo? Un rey-filósofo benévolo sin duda resolvería esto por nosotros, pero en la lamentable ausencia de uno, no parece probable que mucha gente quiera dejarlo en manos de una autoridad legal, se llame o no Ministerio de la Verdad. .
