El uso de la inteligencia artificial debe ser ético, confiable y responsable
Por EY GDS México
La Inteligencia Artificial (IA) se ha convertido en una buena alternativa para el fortalecimiento de los negocios, ya que usualmente se implementa en actividades clave como contratación y reclutamiento, análisis de mercado, inversiones y atención a clientes, por mencionar algunos.
Sin embargo, es imperante que su uso sea ético, confiable y responsable. Entre las bases para que esto sea posible están la confidencialidad de la data que alimenta a esta tecnología, los sistemas de protección con los que se usa, los permisos de difusión y que sus resultados estén verificados y autorizados.
“Así como el uso y capacidades de la IA seguirán aumentando, será importante que también se fortalezcan los niveles de confianza y se desarrollen prerrogativas en beneficio de los usuarios y las organizaciones”.
José Luis Guasco, Líder de
Consultoría en EY GDS Mexico.
Y es que existen algunos elementos que aún generan desconfianza en cuanto a su implementación y uso de la IA como, por ejemplo: la suplantación de identidad, la eliminación de puestos de trabajo, el manejo poco responsable de la información o por ataques cibernéticos.
Los equipos de EY GDS México, que dan servicio a clientes de las firmas miembro de EY en Estados Unidos y Canadá, se adhieren a las siguientes consideraciones para un uso y desarrollo responsable de inteligencia artificial.
Responsabilidad. La IA utiliza una gran cantidad de datos, incluida información personal de los usuarios para descubrir patrones de comportamiento, tendencias y percepciones que influyen en la toma de decisiones. Por ende, debe existir una regulación para que la data se utilice únicamente para fines relacionados con el fortalecimiento de los negocios, bajo derechos permitidos y total confidencialidad.
Seguridad. Tanto los sistemas de Inteligencia Artificial como sus datos de entrada y salida deben estar protegidos contra el acceso no autorizado de terceros. En este sentido, es importante que las organizaciones tengan herramientas tecnológicas para evitar ataques de “cibercriminales”, toda vez que estos siguen al alza a través de tácticas como el “phishing” y el “vishing”.
Transparencia. Es vital proporcionar a los usuarios niveles adecuados sobre la divulgación, propósito, el diseño y el impacto tanto de los sistemas de IA, ya que sus datos son los que se utilizan para alimentar al sistema. Esto con el fin de que todas las partes interesadas puedan comprender, evaluar y emplear correctamente esta tecnología, sus procesos y resultados; elevando así los niveles de confianza.
Cumplimiento. También es importante que todas las implementaciones, desarrollos y uso de IA sigan ciertas directrices en cuanto al marco legal. En este sentido, es importante que los líderes y encargados de esta tecnología conozcan el marco regulatorio, ya que les será más fácil delinear tácticas y objetivos con el uso de esta tecnología.
Explicación clara en los procesos. Para fortalecer la confianza en las organizaciones es necesario habilitar niveles apropiados de conocimiento para que los operadores humanos puedan comprender, cuestionar y validar razonablemente los criterios de decisión y los resultados de los sistemas de IA.
En 2023, tras una inversión de 1.400 millones de dólares en investigación y tecnología de IA, EY lanzó EY.ai, una plataforma para crear valor exponencial para los clientes, las personas y la sociedad a través de la inteligencia artificial. Un pilar de esto es generar confianza en la IA, que los equipos de EY pretenden lograr a través de marcos de trabajo robustos y una gobernanza sólidos que respalden la transformación responsable. Trabajando dentro de este marco, en EY GDS México nos enfocamos en crear y fortalecer equipos preparados para el futuro que puedan adoptar y utilizar esta tecnología en una rápida evolución de manera ética, confiable y responsable.
