¿Qué es la “caja negra” en la inteligencia artificial y por qué preocupa al mundo?

El desarrollo de la inteligencia artificial de Google para hacer frente a OpenAI, la empresa creadora de ChatGPT, ha revelado un rostro de esta tecnología poco conocida. ¿Qué es la “caja negra” en la IA?

Recientemente, el director ejecutivo de Google, Sundar Pichai, ha señalado que su equipo encontró una particularidad que llamó la atención de los expertos desarrolladores de esta tecnología.

Resulta que Bard, la inteligencia artificial de Google, ha logrado adquirir capacidades por si misma, valiéndose de poca información y despertando la incógnita entre la comunidad tecnológica.

LEA TAMBIÉN: Inteligencia Artificial todavía lejos de las prioridades de inversión de empresas

¿Qué es la “caja negra”?

Los ingenieros que están trabajando en Bard realizaron un hallazgo misterioso. Resulta que la tecnología de la inteligencia artificial ha logrado aprender un nuevo idioma prácticamente por su cuenta.

“Descubrimos que con muy pocas indicaciones en bengalí, ahora puede traducir todo el bengalí”, dijo James Maneka, el jefe de la división de IA de Google, durante una entrevista en la cadena CBS.

De acuerdo a Sundar Pichai, esto es lo que denominan como “caja negra”: la capacidad de los programas de IA de generar habilidades u ofrecer respuestas de manera inesperada.

“No lo entiendes del todo. No puedes decir muy bien por qué (la IA) dijo esto o por qué se equivocó en esto otro. Tenemos algunas ideas y nuestra capacidad para entenderlo mejora con el tiempo. Pero ahí es donde estamos hasta ahora”, manifestó el CEO de Google.

LEA TAMBIÉN: Ciberdelitos, ¿cómo crean rostros usando inteligencia artificial para robar tu identidad?

¿Qué es la “caja blanca”?

La contraparte de la “caja negra” es lo que los expertos llaman “caja blanca”.

Los desarrolladores de software crean un programa de manera “tradicional”, con líneas de código que se introducen y reflejan el resultado.

“A veces la gente lo describe como una caja blanca. (...) Pero en la IA, los sistemas son realmente muy diferentes. Están más cerca de una caja negra en muchos sentidos, pues no entiendes realmente lo que sucede dentro”, manifestó Ian Hogarth, cofundador de la empresa tecnológica Plural, en diálogo con la BBC.

Lo que hace la inteligencia artificial involucra una gran cantidad de procesadores interconectados que pueden manejar grandes cantidades de datos, detectar patrones entre millones de variables, igual como lo hace una red neuronal de la inteligencia humana.

LEA TAMBIÉN: ¿Qué trabajos corren riesgo de ser reemplazados por la inteligencia artificial?

¿Por qué preocupa a la comunidad tecnológica la existencia de una “caja negra”?

El especialista apunta que esta tecnología, pese a que parece nueva, es resultado de años de investigación y desarrollo.

La inteligencia artificial abarca una mayor cantidad de datos y potencia el cálculo en el desarrollo de los modelos de esta tecnología.

Por lo que productos como ChatGPT de OpenAI, o Bard de Google y Microsoft, han aumentado su potencia de cálculo consumida en aproximadamente 100 millones, trabajo que ha tomado alrededor de una década en hacerse.

En esa línea, resulta preocupante la capacidad de esta tecnología para incidir y afectar la sociedad en todas sus dimensiones, con impactos en el mercado laboral, hasta procesos que involucran la ciberseguridad de gobiernos.

La “caja negra” es solo una parte de la inteligencia artificial que los humanos no logran descifrar, pero que guarda relación directa con su potencial.

“Permítanme decirlo de esta manera: tampoco creo que entendamos completamente cómo funciona la mente humana”, concluyó Sundar Pichai, quien considera que la llegada progresiva de la IA a la sociedad es una manera de acostumbrarse a ella.

LEA TAMBIÉN: ¿Por qué el CEO de Google pide que se regule mejor la inteligencia artificial?

¡Beneficios ilimitados con tu suscripción a Gestión! Disfruta de hasta 70% de dscto. en más de 300 promociones del Club de Suscriptores, que además podrás usar todas las veces que quieras. Conócelos aquí ¿Aún no eres suscriptor?, adquiere tu plan aquí.