Del celular a los anteojos

Un grupo de desarrolladores de tecnología, formuladores de políticas y académicos se reunieron el lunes en North Beach para comer pasteles y tomar agua con gas y reflexionar sobre cómo establecer reglas para un mundo que aún no existe.

El mundo es el que la IA ya ha habilitado en las "gafas inteligentes", un producto que ya puede servir como teleprompter portátil y aumentador de realidad. Las futuras iteraciones tienen el potencial de transformar la forma en que las personas se desenvuelven en la vida de forma mucho más radical.

“Tendremos un agente de IA que, básicamente, estará sentado sobre nuestro hombro y experimentará nuestra vida con nosotros”, dijo Louis Rosenberg, exinvestigador de realidad aumentada de la Fuerza Aérea y panelista en la reunión. “Verá y oirá lo que nosotros vemos y oímos, y nos susurrará consejos al oído sin que tengamos que pedírselos”.

Algún día, las gafas inteligentes podrán leer expresiones faciales para orientar productos hacia los usuarios, actuar como sistemas de vigilancia itinerantes y atraer a los usuarios hacia relaciones aún más profundas con compañeros de IA.

Al observar el crecimiento desordenado de los chatbots de IA, que según sus críticos han dañado la salud mental de los jóvenes usuarios y difundido desinformación con muy pocas reglas establecidas, creadores y pensadores concluyen que es hora de anticiparse a estos problemas. "Los responsables políticos no están pensando en esto como deberían", declaró Rosenberg a DFD.

Debido a que las gafas con inteligencia artificial aún se encuentran en las primeras etapas de desarrollo y aún no han sido ampliamente adoptadas, los discursos y debates en el evento (que incluyeron representantes de Meta, DoorDash y Omidyar Network) involucraron muchas conjeturas fundamentadas sobre lo que podría salir mal.

Los asistentes vieron un cortometraje de ciencia ficción que mostraba un restaurante que utiliza datos biométricos recopilados a partir de gafas inteligentes para promocionar los platos del menú a los clientes, y realizaron recorridos en realidad virtual de la distopía al estilo de RoboCop que podría resultar de la falta de regulaciones de IA.

X Reality Safety Intelligence, organismo que establece estándares para sistemas de RV y RA, organizó el evento junto con Meta, que exhibió su propia línea de Oakleys y Ray-Bans con IA. «Los sistemas [de IA] que configuran entornos físicos, virtuales y de realidad mixta deben incluir medidas de seguridad», declaró Kavya Pearlman, directora ejecutiva de XRSI, durante la conferencia principal. «No se trata solo de funciones. Se trata de infraestructura de seguridad».

La naturaleza especulativa de los procedimientos ilustró un dilema que a menudo afecta a la regulación tecnológica. Los legisladores son notoriamente lentos a la hora de diseñar normas para tecnologías que ya están causando estragos. Pero ¿cómo regular proactivamente una tecnología antes de que realmente empiece a afectar a las personas?

Sin duda, sería útil contar con normas en esta etapa del desarrollo de las gafas inteligentes. Durante una mesa redonda, varios desarrolladores del sector de los wearables con IA afirmaron que, en esencia, están decidiendo por sí mismos qué les parece seguro y ético; aun así, la presión competitiva suele relegar esas consideraciones a un segundo plano. Sin embargo, algunos advirtieron contra la restricción de un campo en auge antes de comprender plenamente los riesgos asociados a la tecnología.

“Si realmente hay que ver los daños para anticiparse, incluso solo el comienzo de los daños, eso hace que [la regulación] sea más difícil”, dijo Rosenberg a DFD.

Expresó especial preocupación por la posibilidad de que las gafas inteligentes se integren tanto en la vida de las personas que se conviertan en herramientas de manipulación para empresas o incluso gobiernos. Y si existe la preocupación de que los niños establezcan relaciones poco saludables con chatbots de IA, el problema podría verse agravado por un dispositivo portátil que llevan a todas partes.

Rosenberg dijo: “Estamos en una situación difícil a la hora de regular estos wearables de forma anticipada, aun cuando sabemos que habrá problemas”.

Una posible solución es ir más allá de las normas rígidas. "Las regulaciones tradicionales han sido del tipo: 'No harás X, si no, te penalizaremos'", declaró Pearlman a DFD. "No es necesariamente un modelo que pueda funcionar en estos entornos emergentes".

Argumenta que los estándares no vinculantes, como los que desarrollan organismos como XRSI o el Grupo de Trabajo de Ingeniería de Internet, pueden, en cambio, impulsar la industria sin sobrecargarla. Por ejemplo, Pearlman propone implementar algo similar al sistema de certificación de alimentos orgánicos del Departamento de Agricultura de EE. UU., que calificaría los wearables de IA según su protección contra patrones oscuros.

Otro beneficio de centrarse en normas informales, añadió Pearlman, es que ha animado a las empresas a comunicarse abiertamente con los reguladores. "Como no hay leyes, [las empresas] pueden ser francas sin temor a ser penalizadas", afirmó. "Estoy en contacto con el equipo de producto de Meta, con los vicepresidentes de Magic Leap y Google; ya lo están analizando con nosotros".