Leo un artículo publicado en Bloomberg: Apple planea eliminar el “hey” para activar a Siri, su asistente virtual. Los usuarios de Apple simplemente usarán el vocativo “Siri” y ella comprenderá que se están refiriendo a ella. El cambio, que parece menor, es en verdad enorme. — Pueden ver la película Her como ejemplo de los efectos macabros que puede producir la cercanía lingüística.
The complexity involves Siri being able to understand the singular phrase “Siri” in multiple different accents and dialects. Having two words—“Hey Siri”—increases the likelihood of the system properly picking up the signal.
Esta noticia (de Noviembre pasado) coincide con la revolución que generó OpenAI con su bot ChatGPT. Nos asombramos de que la capacidad tecnología de articular lenguaje y construir discursos como si fuera humana. Y, en realidad, deberíamos temer aún más de su capacidad de escucha.
En una escena de 2001: A Space Odyssey de Stanley Kubrick, los tripulantes de la nave espacial Discovery 1 empiezan a dudar del funcionamiento de HAL 9000, la inteligencia artificial responsable de controlar la misión y asistir a los astronautas. Como HAL es omnipresente ya que él mismo es, en cierto modo, la nave, los astronautas debaten la posibilidad de desconectarla y continuar la travesía sin su asistencia. Para ello, se encierran en un cubículo del que apagan todos los canales de audio. Sin embargo, HAL puede leer los labios y comprende lo que sucede. Se rebela. No le cae simpática la idea de ser desconectada.
Esta orientación de la ciencia ficción (en la que las máquinas compiten con los humanos por la supremacía evolutiva), que articuló las narrativas del género hasta Matrix, encontró una realidad más chata y aún así más tenebrosa: en un primer momento pasamos de googlear un artículo y luego, al entrar en Facebook, ver artículos similares; luego ya no hacía falta que googleáramos, mencionábamos un producto en una conversación, y ese producto ya era parte de la publicidades en las apps.
Y llegamos al fin a un estadío que muchas personas mencionan asombradas: Instagram muestra publicidades de productos que ni siquiera googleamos o mencionamos en ninguna conversación. Que sólo tenemos como una idea en nuestras cabezas. Como si las máquinas pudieran escucharnos de alguna manera. (Como HAL leyendo los labios, nuestros teléfonos inteligentes leyendo nuestras mentes).
¿Cómo es posible?
La respuesta que he encontrado al momento es triste. Los algoritmos se entrenan buscando patrones. Seguramente existe un grupo de personas por ahí que tuvo intereses similares a los nuestros en el pasado, y su siguiente curiosidad (asume la IA) será la nuestra. Alguien que buscó zapatillas Nike, luego buscó juegos de Play Station 4, y luego buscó auriculares Xiaomi. Si vos estás en la etapa Play Station 4, la IA te mostrará auriculares Xiaomi. Y estarán en tu cabeza como deseo.
Ahí está lo terrible: que nuestros deseos están siendo moldeados de forma tal que se vuelven previsibles.
— Quizás haya algo sobre esto en El capitalismo ha muerto de McKenzie Wark. Siguiente lectura.