:quality(75)/cloudfront-us-east-1.images.arcpublishing.com/elcomercio/GM4DAMJNGA4S2MBVKQYDQORTHA.jpg)
(G de Gestión) Aunque en el Perú las empresas aún se encuentran en fase exploratoria sobre el uso de la Inteligencia Artificial (IA) —apenas tres de cada 10 compañías ya ha adoptado algún sistema con IA, de acuerdo al estudio Latam AI & Automation 2023—, el país ha dado un nuevo paso para establecer su primer reglamento sobre esta tecnología. El borrador del texto ya se encuentra en consulta pública, adelantando lo que se viene para las firmas.
“Es histórico: hay un apetito en el Congreso por regular el entorno digital”, decía a inicios de año Oscar Montezuma, abogado especialista en IA, en un contexto previo a la publicación de la primera versión del reglamento de la ley N° 31814, que promueve el uso de la IA en favor del desarrollo económico y social del país por parte de la Secretaría de Gobierno y Transformación Digital. Hoy el Parlamento tiene en sus manos 15 iniciativas adicionales, todas en comisión, que regula y promueve el uso de esta tecnología en diferentes ámbitos, desde su utilización en consulados del país en el extranjero hasta su implementación en el Ministerio Público.
“Preocupa que siendo una tecnología aún en desarrollo se la regule de tal forma que podría limitar su máximo potencial. Me preocupa que finalmente se termine desincentivando la innovación de alguna manera. Cuando el internet apareció, no se generó ninguna sobrerregulación”, menciona Montezuma.
LEA TAMBIÉN: Ejecutivos de Perú, los que más temen a la IA en Latinoamérica
Etiquetado
Así como existen los famosos octógonos nutricionales para etiquetar los alimentos altos en grasas o sodio, los productos desarrollados con IA podrían llevar un etiquetado. El artículo 26 de la propuesta de reglamento así lo incorpora.
“La Secretaría de Gobierno y Transformación Digital fomenta que los proveedores o implementadores de sistemas basados en inteligencia artificial que cuentan con la capacidad de generar o alterar textos, imágenes, videos y audios, que puede inducir erróneamente a la creencia de que es auténtico o verídico, incluyan un etiquetado visible que permita al público reconocer cuando un contenido ha sido generado por un sistema basado en inteligencia artificial. Sin perjuicio de lo anterior, se promueve el desarrollo de técnicas para identificar texto, imágenes, videos y audios generados por un sistema basado en inteligencia artificial”.
Aunque el reglamento no es claro respecto a lo que incluirá la etiqueta, cabe indicar que algunas tecnologías se han adelantado a este hecho. En febrero de este año, Nick Clegg, presidente de Asuntos Globales de Meta, afirmaba que todavía no es posible identificar todos los contenidos generados por IA —incluso si se trata de imágenes en Google, Microsoft, Adobe, MidJourney y Shutterstock—, y que incluso se han encontrado formas en que los creadores eliminan los marcadores. Es por eso que la empresa estadounidense presentó Stable Signature, “una tecnología [que] integra el mecanismo de marca de agua directamente en el proceso de generación de imágenes para algunos tipos de generadores. Permite que la marca de agua no se pueda desactivar”. Es un paso.
Meta también ha advertido que, en los próximos años, “las personas y organizaciones que quieran engañar activamente a la gente con contenidos generados por IA buscarán formas de eludir las salvaguardias que se establezcan para detectarlo. En nuestro sector y en la sociedad en general, tendremos que seguir buscando formas de ir un paso por delante”.
:quality(75)/cloudfront-us-east-1.images.arcpublishing.com/elcomercio/QLRDXH65KZFGHHU3RI2QBFD5UQ.jpg)
Clasificación de riesgos, pero sin sanciones
La propuesta de reglamento, además de precisar que será la Secretaría de Gobierno y Transformación Digital la autoridad técnico-normativa encargada de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial, también incluye una clasificación del riesgo de los sistemas basados en IA, según su afectación al trato equitativo, transparencia y derechos fundamentales generados por su uso en riesgo inaceptable, alto, medio y bajo.
En ese sentido, establece, por ejemplo, que estará prohibido en el país un sistema basado en inteligencia artificial considerado de riesgo inaceptable. Esto quiere decir, cuando dicho sistema:
- Modifique el comportamiento de una persona a través de técnicas subliminales o deliberadamente engañosas o el aprovechamiento de vulnerabilidades de un grupo poblacional específico cuando sea probable que su uso genere perjuicios considerables a una persona natural o a la colectividad.
- Clasifique la fiabilidad de una persona natural o colectivo a través de la cuantificación de su conducta social, siempre que dicha clasificación le genere un efecto perjudicial y el contexto social no guarde relación con los datos de entrada.
- Clasifique la fiabilidad de una persona natural o colectivo a través de la cuantificación de su conducta social si le genera un efecto perjudicial y resulta injustificado o desproporcionado con respecto a su conducta social.
Esta lista será actualizada por la Secretaría cada cierto tiempo. No obstante, aunque establece obligaciones para las empresas o personas naturales no incluye ningún tipo de sanción.
:quality(75)/cloudfront-us-east-1.images.arcpublishing.com/elcomercio/3WMLPP4PINENHKPJO2ZGVQYZLA.gif)
“Este es un punto clave porque la Secretaría no tiene facultades sancionadoras. En todo el documento no existe ni una sola sanción o infracción, por lo que terminaría siendo solo un documento orientador. ¿Cuál sería el castigo para aquel que no cumpla con desarrollar un sistema de riesgo inaceptable? Parece que ninguna”, resalta Montezuma.
Al respecto, el proyecto de ley presentado por la bancada de Podemos Perú (N° 7023/2023) establece, entre otras disposiciones, que la Secretaría de Gobierno sí tenga facultad de dictar sanciones por el incumplimiento de las obligaciones a los creadores y desarrolladores de sistemas de IA o utilicen IA, “pudiendo a su vez incluir multas y la retirada del registro de los sistemas de inteligencia artificial, también prohibiciones temporales o permanentes del uso de sistemas de inteligencia artificial y otras acciones correctivas que sean apropiadas según la gravedad y recurrencia de la infracción”.
LEA TAMBIÉN: ¿Adiós al smartphone? Los dispositivos que desafían la hegemonía del celular
Expertos en IA
Un dato no menor es que el futuro reglamento incorpora que los diferentes niveles de gobierno promuevan la atracción y retención del talento nacional y extranjero en inteligencia artificial. Cabe indicar que la mayoría de las universidades públicas y privadas en el país ya han incorporado nuevas carreras y cursos relacionados con la IA.
“Los gobiernos locales y regionales pueden establecer programas de impulso para la atracción de expertos en inteligencia artificial, ciencia de datos y afines formados en universidades nacionales o del extranjero que sean complementarios y diferenciados de las acciones tomadas por otros niveles de gobierno”, señala.
La propuesta de reglamento estará en consulta hasta inicios de junio.
LE PUEDE INTERESAR
Talento invisible: las habilidades neurodivergentes que están dejando escapar los CEO
Bitcoin ¿futuro prometedor?: expertos revelan consejos de inversión
Telefónica del Perú: pedimos que las plataformas digitales “por lo menos paguen algo”
:quality(75)/s3.amazonaws.com/arc-authors/elcomercio/b202480b-03ee-4fd1-b19d-a3ee46edd5e8.png)
Coordinadora en la revista G de Gestión e integrante del podcast de economía y negocios 'Actualidad Latinoamericana'. Escribo sobre management, agricultura, tecnología y emprendimientos. Bachiller en Periodismo por la Universidad Antonio Ruiz de Montoya. Activa participante de los cursos del Centro Knight para el Periodismo en las Américas.
Comienza a destacar en el mundo empresarial recibiendo las noticias más exclusivas del día en tu bandeja aquí. Si aún no tienes una cuenta, regístrate gratis y sé parte de nuestra comunidad.