El dilema de la IA: encontrar el equilibrio entre los beneficios y la necesidad de un «toque humano»

Spread the love

Vassilis Constantopoulos, Vicepresidente Senior y Gerente General de la Unidad de Negocios de Alta Tecnología en Mphasism, comenta que: «cuando hablamos del “toque humano”, nos referimos a todas esas cualidades y habilidades humanas tales como la personalidad, integridad y valores éticos, que pueden marcar la diferencia con respecto a la implementación de nuevas tecnologías, tales como la inteligencia artificial. No se trata de que uno llegue a reemplazar al otro, simplemente aprovechar lo que cada herramienta puede aportar a nuestro trabajo para aumentar la productividad y elevar las capacidades humanas. Al menos en las primeras fases, podemos esperar que la IA aumente el potencial de los humanos, sobre todo automatizando un sinfín de tareas manuales repetitivas. Sin embargo, es importante no perder de vista la creatividad y la individualidad que cada empleado aporta a su función.

En la última encuesta de Mphasis realizada entre más de 600 estudiantes mexicanos, se encontró que el 97.3% de los estudiantes en áreas tecnológicas coinciden en que los factores humanos mencionados anteriormente pueden marcar la diferencia con respecto a la implementación de tecnologías.

Siendo una empresa de tecnología, en Mphasis colocamos el ‘toque humano’ al centro de nuestras operaciones porque creemos firmemente que la tecnología puede ayudarnos a ser mejores humanos, ¡y no a convertirnos en robots! Además, también hay una motivación comercial; dada la omnipresencia de la tecnología y la automatización, cada vez más el ‘toque humano’, la determinación, empatía y el ingenio de las personas, son lo que realmente marca la diferencia en el servicio al cliente.

Sin duda, los recientes avances en grandes modelos lingüísticos como ChatGPT constituyen un avance fundamental en el uso conjunto de la potencia y los datos de los consumidores. Sin embargo, estas herramientas no pueden resolver por sí solas todos los problemas. Al contrario, depende de las empresas mismas, y particularmente de los empleadores, encontrar un uso adecuado de tales tecnologías para aumentar sus competencias humanas e impulsar la innovación y el crecimiento en la nueva era digital.

Además, la supervisión humana sigue siendo crucial para el buen funcionamiento de los sistemas de IA, lo que nos permite contribuir activamente a una aplicación ética e integradora de la tecnología de IA y defender la autonomía humana. Al abrirle camino al «toque humano», los algoritmos podrán ser desarrollados de forma que se garantice la seguridad y transparencia de los datos frente a imprevistos, así como el pleno control del usuario sobre sus propios datos. En mi opinión, uno de los subproductos interesantes de este fenómeno es que las interpretaciones de la IA de los conjuntos de datos utilizados para entrenar estos modelos nos exponen a algunos de nuestros sesgos inconscientes, ayudándonos a darnos cuenta de su existencia y, posiblemente, tomar medidas para corregirlos.

A pesar de que la IA tiene muchos beneficios potenciales para el progreso humano, existen varios riesgos asociados a la implementación de estas tecnologías sin tener en cuenta el elemento humano.

Por ejemplo, los sistemas de IA pueden tener dificultades para comprender el contexto de una conversación o situación, lo que puede dar lugar a interpretaciones erróneas y respuestas irrelevantes o inadecuadas. De la misma manera, la falta de empatía se tornaría mucho más evidente dentro de una IA carente de ‘toque humano’, ya que es una habilidad esencial para garantizar una comunicación compasiva y respetuosa, por ejemplo en los ámbitos de atención al cliente. Además, los servicios basados en la inteligencia artificial pueden, hasta cierto punto, despertar sentimientos de frustración y desconexión entre los usuarios al no recibir la respuesta esperada, lo que genera una menor confianza y satisfacción del usuario, además de una reticencia a utilizar servicios basados en IA.

Para mitigar estos riesgos, es esencial incorporar la supervisión humana y consideraciones éticas en el desarrollo y despliegue de los sistemas de IA. La intervención humana puede ayudar a corregir sesgos, garantizar la toma de decisiones éticas y abordar cuestiones específicas del contexto, garantizando que la IA siga siendo una herramienta valiosa que complemente y mejore las capacidades humanas, en lugar de sustituir por completo el aspecto humano.

Por último, la IA a menudo depende de grandes cantidades de datos para entrenarse y funcionar eficazmente, por lo que las empresas deben dar prioridad tanto a la calidad, como a la privacidad y seguridad de los datos para proteger la información sensible y cumplir la normativa pertinente dentro del sector y lugar donde se despliegue la IA. Para fomentar respuestas representativas y libres de sesgos, es importante entrenar a los modelos de IA con suma precisión para evitar perpetuar prácticas injustas o discriminatorias. Por lo tanto, es importante que las empresas se concienticen sobre el posible impacto social de los sistemas de IA y sean transparentes sobre su uso.