¿Por qué es problemático? El análisis experto del fenómeno desde una perspectiva psicológica establece que las amistades son un componente fundamental para nuestra salud mental. Varios estudios psicológicos muestran que las amistades humanas funcionan como un amortiguador o “vacuna” que crea resiliencia frente a factores ambientales, como el abuso, el abandono, el acoso, la pobreza y la pérdida. Sin dicha protección estos factores son potentes predictores del desarrollo de psicopatologías.
¿Cómo abordar este problema? Más allá de estrategias vigentes, como fomentar la “prescripción social”, es decir, remitir a pacientes a programas de actividades grupales, es esperable que los gobiernos empiecen a explorar nuevos abordajes y, al igual que en muchos otros problemas sociales, depositen sus expectativas en la inteligencia artificial (IA).
Por ejemplo, en el ámbito de la salud mental, el gobierno de Trenque Lauquen, localidad de la provincia de Buenos Aires en Argentina, contrató la aplicación Cux, que ofrece apoyo emocional a los ciudadanos por medio de un “terapeuta” diseñado con IA. Esta iniciativa despertó hace unos días una polémica por el potencial daño a los usuarios que podría causar la mala simulación de un vínculo tan complejo como el de terapeuta-paciente.
Aunque se ha advertido con frecuencia sobre el peligro de buscar soluciones puramente tecnológicas a problemas que requieren una mirada y una mano humana, la acentuación del aislamiento desde la pandemia también llevó a abordar el problema de la soledad usando IA. Específicamente, en diferentes partes del mundo se masificó el uso de chatbots antropomórficos o sociales que pretenden encarnar o imitar relaciones de amistad, como Replika, Anima, Kuki, Xiaoice y Hume.
Si bien estos sistemas han probado ser eficientes para reducir la sensación de soledad de los usuarios, e incluso para mitigar ciertos síntomas asociados a enfermedades mentales, es fundamental preguntarnos qué nos estaríamos perdiendo en el caso de que los jóvenes en Chile comenzaran a abordar la soledad con “relaciones” más accesibles con IA, sustituyendo así potenciales relaciones humanas.
Si exploramos la perspectiva filosófica sobre la amistad, parece haber algunos rasgos fundamentales de estos vínculos que los modelos de IA no podrían replicar. Por ejemplo, la amistad requiere de algún tipo de reciprocidad afectiva, es decir, que los amigos se preocupen genuinamente el uno por el otro. Además, las amistades requieren desarrollar un sentido de intimidad, una apertura profunda con la persona con la que compartimos emociones y pensamientos que no pondríamos en común con cualquier otro.
Siendo artefactos que carecen de capacidades emocionales, los sistemas de IA no pueden ofrecernos una genuina reciprocidad o apertura y, por lo tanto, no pueden ser amigos reales.
Estas observaciones tienen importantes consecuencias éticas. En primer lugar, la amistad es considerada por varios eticistas como un valor objetivo cuya ocurrencia es necesaria para alcanzar nuestro potencial como humanos. Conformarnos con herramientas que, en el mejor de los casos, podrían producir efectos psicológicos similares a los que nos proporciona la amistad, implicaría renunciar a este valor humano fundamental.
En segundo lugar, un problema tal vez más grave es que mientras la IA avanza en su capacidad de imitar rasgos humanos, más eficientemente induce a las personas a creer que la amistad con ella es real, con una consecuente probabilidad de generarse formas de negligencia moral. Bernard Williams observó que los vínculos más personales, como los maritales o los de amistad, conllevan obligaciones especiales, esto es, el deber de priorizar el cuidado de estas personas por sobre el cuidado que les debemos a otras.
Si las personas creen que sus amistades con la IA son reales, podrían priorizar equivocadamente esas relaciones más allá de otros vínculos humanos, abandonando el cuidado de un tejido social que necesita ser nutrido.
La crisis de cohesión social que vive Chile es un buen ejemplo de un problema que, entendido solamente desde una perspectiva científica o médica, podríamos creer susceptible de las milagrosas soluciones tecnológicas que nos ofrece la IA. Sin embargo, no podemos cometer el error de olvidar la dimensión ética que subyace a nuestras dinámicas sociales más medulares. (El Mercurio)
Abel Wajnerman Paz
Instituto de Éticas Aplicadas Pontificia Universidad Católica de Chile
