Si bien los alcances de la Inteligencia Artificial (IA) son ilimitados, sus márgenes éticos no. Incluso la Organización para la Cooperación y el Desarrollo Económico (OCDE) propone regulaciones del uso en favor de la ciudadanía. Plantea, así, aplicar el principio de transparencia y vigilar la equidad y la privacidad. Sin embargo, ya figuran amenazas en la gestión responsable de la herramienta tecnológica: el deepfake es una de ellas.
Los deepfakes son videos, imágenes o audios que pretenden imitar la apariencia y voz de una persona. Inicialmente, este tipo de contenido posee fines educativos o de entretenimiento; pero un tinte malintencionado en su empleo ha colocado a las pymes en un campo de riesgo. ¿Por qué?
LEA TAMBIÉN: Gasto de las familias se modera: esto compraron con sus tarjetas el mes pasado
Dinámica del deepfake
Los deepfakes se producen con redes generativas antagónicas, a las cuales de les denomina GAN. “Hay una inteligencia que se encarga de crear un contenido falso contrastado con una inteligencia que se encarga de detectarlo”, explica Javier Escurra, ingeniero de proyectos en Hytera Perú. En suma, uno de los GAN es el generador y el otro el discriminador que evalúa los resultados y los distingue de los datos reales.
Este proceso se reitera hasta producir un contenido convincente, tanto que el discriminador ya no pueda identificarlo como falso. Para facilitar la interpretación, Escurra propone un ejemplo: un profesor le pide a su alumno pintar una primera versión de la Mona Lisa. Tras la entrega, el maestro detecta trazos inconexos y le pide una segunda muestra. Luego llegan una tercera, una cuarta y una quinta entrega. De ese modo, el alumno se entrena para que la obra falsa sea irreconocible.
El especialista enlista algunos métodos de localización de un empleo erróneo del deepfake: gesticulaciones no sincronizadas con la voz, sonidos robotizados o cadencias un poco lentas. “La IA no tiene naturalidad, suele sostener ruidos monótonos”, manifiesta.
LEA TAMBIÉN: Expresiones como “inepto” o “abusivo” contra un jefe: ¿pueden ser causal de despido?
Deepfake y estafas: el mayor riesgo
El fraude con deepfake le permite a un posible estafador hacerse pasar por otra persona, generalmente por alguien que la víctima conoce: un jefe, el CEO de la empresa u otra figura de confianza. En ese sentido, Javier Kuan, director de estrategia de tecnología digital, de Esencia, del grupo Efitec Corporation, la califica como una amenaza significativa para todo tipo de gobiernos e industrias, pero “particularmente para las micro y medianas empresas”.
“Para ellas es muy sensible no solo por el carácter de informalidad que tenemos localmente, sino también por el factor económico: las pymes no tienen el presupuesto tecnológico del sector financiero del Perú. También hay falta de personal especializado y un área de TI (tecnología de la información) muy reducida o ausente”, detalla.
Al respecto, en una empresa grande, que cuenta con una contratación de personal técnico, “los procesos están bien establecidos o son mucho más estructurados”; mientras que “las pymes adolecen de procesos más formales”. Esto ocurre en medio del esfuerzo que hacen las pequeñas y medianas empresas para cuidar sus presupuesto y bregar en el lado de la formalidad: consideran, en suma, el cuidado tecnológico como un gasto y no tanto como una inversión.
Rezagar a la tecnología del plan de progreso de una compañía, sin importar su tamaño, es una preocupación que también recoge el Centro Nacional de Planeamiento Estratégico (Ceplan) en su informe Inteligencia artificial: desafíos y oportunidades para el Perú.
“Los países más avanzados, pero también otros países de la región, están invirtiendo en esta tecnología, porque existe evidencia de grandes mejoras de productividad y soluciones innovadoras para las industrias, pero también para los servicios y vida diaria de la población. El Perú no puede quedarse atrás [...] En el caso contrario, se corre el riesgo de, una vez más, quedar en la periferia de la tecnología, la innovación, la productividad y el bienestar”, plantea.
Escurra cae en cuenta de esta misma carencia. Por ello, asegura que, frente a privación de presupuestos para un área de TI y ciberseguridad, “se deben fortalecer los valores organizacionales, promover entre los empleados el pensamiento crítico para discriminar la información”. De esa manera se podría paliar un poco el hecho de que “algunas empresas no sienten la necesidad imperante de incluir a la tecnología como parte transversal de sus procesos”.
Kuan resume la trascendencia: “La IA les permite a las pymes alcanzar un mercado mucho más grande del que actualmente disponen, así como tener áreas de marketing, de social media, finanzas, legales optimizadas... Lo cual antes era imposible o inviable para una pyme”.
LEA TAMBIÉN: Congestión en puerto del Callao se agudiza, la solución que se alista para combatirla
La IA como aliada
Para equilibrar la balanza y convertir a la IA en aliada, Kuan considera que se debe reforzar la concientización, porque, según estima, para el 2030 el 90% del contenido audiovisual sería deepfake. Ante este panorama, es importante que el usuario reconozca lo que puede hacer una IA generativa, tanto para bien como para mal.
En esa línea, sostiene que las pymes “deberían abordar esto bajo un tipo de mecanismo sencillo para que, a través de una clave o contraseña, puedan verificar que el audio, el video o la aprobación de un depósito sean realmente auténticos y emitidos por la persona a la que le corresponda”.
No obstante, acota que, como la IA registra cambios importantes cada tres meses, la labor es de las pymes, pero además de los gobiernos, las cámaras de comercio y las compañías líderes en la industria. Un ‘cross’ en el reto.
LEA TAMBIÉN: Alza de tasas en EE.UU. pone nerviosos a inversionistas: su impacto en Perú
Perú ante las malas prácticas de la IA
El Centro Nacional de Planeamiento Estratégico elaboró el informe Inteligencia artificial: desafíos y oportunidades para el Perú. En este documento resalta que la clave de la Inteligencia Artificial radica en su condición de ser una tecnología que posee un impacto transformador a nivel económico y social.
“Por el lado económico, se presentan estimaciones de su contribución en medidas macroeconómicas, como el Producto Bruto Interno (PBI) y el Valor Agregado Bruto (VAB)”, se puede leer. Por ello, el Ceplan considera que un uso correcto favorece el aumento de la productividad y la automatización del empleo.
En ese sentido, recomienda trabajar en varios frentes: talento humano y formación de especialistas, inversión en infraestructura digital, cierre de brechas con enfoque territorial, apertura de los datos de las entidades para mayor transparencia, generación de ecosistemas empresariales tecnológicos, reforzamiento del marco legal de propiedad intelectual o, entre otras, la divulgación del potencial de su uso incorrecto.
Redactora de Economía en diario Gestión. Periodista piurana con seis años de experiencia profesional en el rubro.
Comienza a destacar en el mundo empresarial recibiendo las noticias más exclusivas del día en tu bandeja Aquí. Si aún no tienes una cuenta, Regístrate gratis y sé parte de nuestra comunidad.
