Por qué las empresas deben tener cuidado con la IA: "Los directivos saben que una cosa que está a disposición de toda su base de empleados es muy peligrosa"

Inteligencia artificial, uso en empresas.

Getty

  • La responsabilidad a la hora de utilizar una tecnología tan potente como la inteligencia artificial generativa es un debate que ha cobrado fuerza a raíz del éxito que han alcanzado herramientas como ChatGPT o Midjourney.
  • Llorenç Mitjavila, socio de la consultora BCG y experto en IA, explica los riesgos que afrontan las compañías a la hora de utilizar estas herramientas y los motivos por los que debería legislarse la tecnología. 

La popularidad que ha alcanzado la inteligencia artificial generativa a raíz del éxito de herramientas como ChatGPT o Midjourney ha generado también toda clase de reacciones adversas. 

De esta tecnología se ha llegado a decir que podría afectar a los trabajos de millones de personas, que podría suponer un riesgo para la salud de otros tantos millones e, incluso, que podría provocar una guerra nuclear que acabase con la especie humana (algo en lo que no han ayudado especialmente algunos de sus principales responsables, que se han comparado con el mismísimo Oppenheimer).

Aun así, más allá de posibles exageraciones, la realidad es que se trata de una tecnología con el potencial suficiente como para poder hacer mucho daño. Es por eso por lo que diversos organismos reguladores —incluida la Comisión Europea— se encuentran tramitando una legislación que controle y prohíba determinados usos de la IA generativa. 

"Al final es fácil lanzar muchos titulares muy alarmistas sobre esto", asegura a Business Insider España Llorenç Mitjavila. "Pero hoy por hoy las limitaciones todavía son suficientemente importantes como para que el humano tenga que estar supervisando todo lo que sale de ahí y guiándolo".

Mitjavila es senior partner & managing director y responsable del área de Digital y Tecnología en Iberia y Sudamérica de Boston Consulting Group (BCG), una consultora que trabaja desde hace años ayudando a las organizaciones en sus procesos de digitalización. BCG publicó recientemente una encuesta en la que se valoraba la percepción de los trabajadores españoles con respecto a la IA.

La automatización que podría generar la inteligencia artificial

Llorenç Mitjavila, Senior Partner & Managing Director de BCG.
Llorenç Mitjavila, Senior Partner & Managing Director de BCG.

Cortesía de BCG

En lo que se refiere a la posible automatización de determinados puestos de trabajo que podría traer consigo la IA generativa, el experto consultor afirma que programas como ChatGPT han supuesto que la gente pueda utilizar "de una forma mucho más activa" una herramienta tan potente como la inteligencia artificial. 

"A priori, estás poniendo al alcance de todo el mundo esta nueva capacidad tecnológica y eso lo que hace es que, en el fondo, todos podemos hacer un poco de upskilling", señala Mitjavila. "De repente tendremos unas herramientas mucho más potentes a nuestro alcance para hacer nuestro trabajo".

Aun así, el socio de BCG reconoce que existe el riesgo de que se automaticen determinados perfiles: "Lo que va a pasar es que las tareas que son más aburridas, más repetitivas, de menor valor añadido, y a una persona le llenan menos, las vas a poder suplir por el algoritmo, por la tecnología, por la solución".

verticalImage1685687205446

"Y tú me dices: 'Hombre, pero hay gente que el 100% de su día a día son esas labores repetitivas'. Es verdad que a lo mejor hay algún segmento de tipos de trabajo que van a desaparecer", sugiere. "Pero eso no es un gran problema, porque lo que sí exige esto es que todos nos formemos".

Mitjavila argumenta que la aparición de una nueva tecnología siempre implica una serie de nuevos trabajos en torno a esa tecnología. En ese sentido, alude a una de las conclusiones del informe de BCG con respecto a la percepción de los empleados: "Comparado con cuando lo estuvimos preguntando en 2018, hay un incremento muy importante de gente que cree que la tecnología les va a ayudar".

"El optimismo ha subido 18 puntos con respecto al 2018", sostiene. "En 2018 estaba en el 35% y ahora está 18 puntos por encima, en el 53%". Sin embargo, no todo es optimismo, el propio socio de Boston Consulting Group admite que existen ciertos riesgos. 

La necesidad de una legislación que regule la tecnología

Durante la conversación con Business Insider España, Mitjavila recuerda la noticia de un abogado que utilizó ChatGPT para prepararse para un juicio real y la herramienta de inteligencia artificial se inventó por completo varios precedentes judiciales

"Lo más fuerte de la historia es que el abogado, parece ser que le preguntó: 'Oye, pero, ¿esto es verdad? O sea, ¿te lo estás inventando o es verdad?', y le dijo: 'No, no, esto está perfectamente documentado', y el tío se lo creyó", explica el experto. "Estos riesgos, de cómo se utilizan estas tecnologías, es importante regularlos".

verticalImage1686039152924

El consultor apunta a casos como el del GDPR para ejemplificar la suspicacia que este tipo de legislación puede generar al principio: "Había mucho debate: de esto hay que legislarlo, no hay que legislarlo... El paso del tiempo nos ha demostrado que es bueno que la población entienda que su información es algo personal, importante, valioso, que no lo puedan ir regalando por ahí".

"Es importante que se conozcan los riesgos, pero también es importante que se pueda utilizar, porque al final son herramientas que nos ayudan a avanzar", defiende Mitjavila, haciendo referencia al auge de la IA generativa.

El papel que juegan las empresas con respecto a la IA

Algunas compañías europeas de renombre, como Airbus, Siemens o Renault, enviaron una carta a la Unión Europea en la que precisamente aseguraban que el futuro Reglamento de Inteligencia Artificial "pone en peligro la competitividad" de las firmas que operan en territorio europeo. El socio de BCG reconoce que se trata de un debate complejo.

"Las empresas están participando en grupos de trabajo de IA responsable y eso está muy bien. O sea, hay una concienciación importante de que esto hay que saber regularlo, pero no es lo único que hay que hacer", afirma. "Las empresas tienen que desarrollar sus propias regulaciones, sus propios códigos éticos, sus propias fronteras". 

Mitjavila comenta que "por eso es bueno que las empresas participen en la redacción de la regulación". "El reglamento tiene que ser práctico y tiene que ser algo asumible, y tiene que tener ciertas flexibilidades".

 

En ese sentido, aplaude la concienciación de los consejeros delegados: "Está muy encima de la mesa el tema de: 'Oye, pero esto hay que gobernarlo y hay que legislarlo'". 

"Al final, los directivos no son tontos y saben que una cosa que está a disposición de toda su base de empleados es algo que puede ser útil, pero que es muy peligroso y hay que entender bien cómo se está utilizando", argumenta. "Hay mucha concienciación en torno a esto, los propios proveedores de soluciones de IA generativa están atajando el problema de raíz". 

Descubre más sobre , autor/a de este artículo.

Conoce cómo trabajamos en Business Insider.