Cuando la IA empieza a tomar decisiones dentro de una empresa
Hace algunos años, incorporar una nueva herramienta tecnológica a una empresa normalmente implicaba evaluar cuánto costaba, cuánto tiempo podía ahorrar y si realmente facilitaba el trabajo. Hoy la situación ha cambiado. Una empresa puede utilizar inteligencia artificial para revisar currículums, generar documentos, analizar información, responder consultas o automatizar determinadas tareas en cuestión de minutos.
En ese contexto, la inteligencia artificial en las empresas ha dejado de ser solamente una tendencia tecnológica. Su utilización también empieza a plantear preguntas relacionadas con trabajadores, candidatos, datos personales, información confidencial y responsabilidad empresarial.
Imaginemos, por ejemplo, que una compañía utiliza una herramienta para filtrar automáticamente cientos de postulaciones. El sistema descarta determinados perfiles y el equipo de Recursos Humanos continúa con los candidatos seleccionados. A primera vista, el proceso parece mucho más eficiente. Pero aparece una pregunta importante: ¿la empresa sabe por qué esas personas fueron descartadas y puede explicar cómo intervino la herramienta?
Este tipo de situaciones muestran por qué el uso de inteligencia artificial en las empresas requiere algo más que elegir una plataforma y comenzar a utilizarla. También exige identificar los riesgos que pueden aparecer cuando una herramienta tecnológica interviene en decisiones que afectan a personas.
En Perú, el Reglamento de la Ley N.° 31814 establece un marco para el desarrollo, implementación y uso de sistemas de IA, bajo principios como seguridad, transparencia, supervisión humana, privacidad y no discriminación.
Podría interesarte : Los 10 mejores abogados laboralistas del Perú para proteger tus derechos
La inteligencia artificial ya está cambiando la forma de trabajar
El uso empresarial de la IA no se limita a herramientas capaces de generar textos o imágenes. Actualmente puede incorporarse en diferentes procesos internos y comerciales, desde la atención al cliente hasta la gestión de personas.
¿En qué áreas puede utilizarse la IA?
Dentro de una empresa puede utilizarse para:
- analizar currículums;
- apoyar procesos de selección;
- automatizar respuestas a clientes;
- revisar grandes volúmenes de información;
- generar documentos;
- analizar datos;
- apoyar campañas de marketing;
- automatizar tareas administrativas;
- evaluar determinados indicadores de desempeño.
El problema jurídico no aparece necesariamente por utilizar IA. La cuestión está en qué función cumple el sistema, qué información procesa y qué consecuencias tiene su resultado.
En el caso de la inteligencia artificial en las empresas, esta diferencia es importante. Una herramienta que ayuda a redactar una descripción de producto no presenta necesariamente las mismas consideraciones que otra que participa en la selección o evaluación de trabajadores.
La regulación peruana distingue los usos según su nivel de riesgo. Entre los considerados de riesgo alto se encuentran precisamente determinados procesos de selección laboral, evaluación, contratación, cese y establecimiento de condiciones de empleo.
1. ¿Qué ocurre cuando una IA participa en la selección de trabajadores?
Uno de los escenarios que merece mayor atención aparece cuando una empresa utiliza inteligencia artificial para tomar decisiones relacionadas con sus trabajadores o postulantes.
El problema no siempre está en la herramienta, sino en cómo se utiliza
Pensemos en una empresa que recibe cientos de CV para una posición. Para reducir el tiempo de revisión, implementa un sistema que identifica determinadas características y descarta automáticamente a quienes no cumplen ciertos parámetros.
El proceso puede parecer eficiente, pero la empresa necesita saber qué criterios utiliza el sistema y cómo se supervisan sus resultados.
Si el sistema genera resultados sesgados o utiliza variables que producen una diferencia injustificada entre determinados candidatos, la automatización podría convertirse en un problema.
La normativa peruana considera de riesgo alto el uso de IA para procesos de selección, evaluación, contratación y cese de trabajadores o postulantes, así como para establecer condiciones laborales.
La decisión empresarial no debería quedar completamente en manos del algoritmo
Una de las cuestiones centrales es la supervisión. Que una herramienta entregue una recomendación no significa que la empresa deba aceptar automáticamente su resultado.
La revisión humana permite detectar errores, cuestionar resultados y analizar situaciones que un sistema automatizado podría no comprender correctamente.
Por eso, cuando hablamos de inteligencia artificial en las empresas, especialmente en el ámbito laboral, la pregunta no debería ser únicamente “¿qué puede automatizar esta herramienta?”, sino también “¿qué decisiones podemos permitir que influya y qué controles tendremos?”.
2. Protección de datos: ¿qué información estamos entregando a la IA?
Este es otro de los riesgos que puede pasar desapercibido.
Un trabajador puede utilizar una herramienta de IA para resumir un contrato, analizar una base de datos o preparar un informe. El problema aparece cuando, para hacerlo, introduce información que contiene datos personales o información confidencial.
Los datos de trabajadores y clientes requieren especial cuidado
Un documento empresarial puede contener nombres, números de identificación, teléfonos, correos electrónicos, información salarial, antecedentes laborales u otros datos personales.
No siempre es evidente qué ocurre con esa información una vez que se introduce en una plataforma externa. Por eso, antes de utilizar una herramienta de IA, la empresa debería saber qué datos procesa, con qué finalidad y qué medidas de seguridad aplica.
El marco peruano establece que el desarrollo, implementación y uso de sistemas de IA debe respetar la normativa vigente sobre privacidad y protección de datos personales.
Una política interna puede evitar muchos problemas
No basta con decirle a los trabajadores que “usen la IA con cuidado”. Es mucho más útil establecer reglas concretas.
Por ejemplo:
- qué herramientas están autorizadas;
- qué información puede introducirse;
- qué datos nunca deben compartirse;
- quién puede utilizar determinadas plataformas;
- qué debe revisarse antes de enviar información externa.
Así, la inteligencia artificial en las empresas puede incorporarse dentro de una política interna que reduzca riesgos y establezca responsabilidades.
3. La información confidencial de la empresa también está en juego
No todos los riesgos están relacionados con datos personales. Una empresa también maneja información cuyo valor depende precisamente de que no sea divulgada.
Contratos, estrategias y datos comerciales
Imaginemos que un trabajador copia en una herramienta de IA un contrato que todavía está siendo negociado con un cliente.
También podría introducir:
- precios;
- estrategias comerciales;
- información financiera;
- bases de clientes;
- acuerdos con proveedores;
- documentos internos;
- información sobre nuevos productos.
La herramienta puede resolver la tarea solicitada, pero la empresa primero debería preguntarse si esa información debía salir de sus sistemas internos.
El uso cotidiano puede generar riesgos que nadie había previsto
Una de las dificultades de la inteligencia artificial en las empresas es que su utilización puede comenzar de manera informal.
Un trabajador descarga una herramienta, crea una cuenta y empieza a utilizarla para ahorrar tiempo. Si la organización no tiene una política clara, puede terminar procesándose información empresarial sin que exista una evaluación previa.
Por eso, la gestión del riesgo no debería comenzar después de un incidente. Lo ideal es establecer reglas antes de que la herramienta se convierta en parte habitual del trabajo.
4. Transparencia y explicabilidad: ¿puede la empresa explicar una decisión tomada con IA?
Cuando una herramienta interviene en una decisión que afecta a una persona, surge otra pregunta: ¿puede explicarse cómo se llegó a ese resultado?
No basta con decir que “lo decidió la IA”
Supongamos que un candidato pregunta por qué fue descartado de un proceso de selección y la empresa responde únicamente que el sistema automatizado determinó que no cumplía con el perfil.
Esa respuesta puede ser insuficiente si la IA tuvo una participación relevante en una decisión que afecta derechos.
El Reglamento de la Ley N.° 31814 establece mecanismos de transparencia para sistemas de riesgo alto y contempla que, cuando una decisión de IA impacta en derechos humanos, debe existir una explicación comprensible sobre los criterios y factores clave utilizados.
La empresa necesita conocer cómo funciona la herramienta que implementa
Esto no significa que todos los trabajadores deban conocer los detalles técnicos de un algoritmo.
Significa que la empresa debería comprender, al menos, cuál es la finalidad del sistema, qué información utiliza, qué tipo de resultados genera y qué decisiones pueden verse afectadas.
La inteligencia artificial en las empresas requiere, por ello, una relación más consciente entre tecnología y responsabilidad.
5. Supervisión humana: la tecnología no elimina la responsabilidad empresarial
Uno de los puntos más importantes de este debate es la supervisión.
¿Quién revisa los resultados?
Una empresa puede utilizar IA para hacer una primera evaluación, pero debe establecer quién revisará los resultados antes de adoptar una decisión cuando corresponda.
Esto resulta especialmente relevante cuando se trata de:
- contratación;
- evaluación laboral;
- cese;
- condiciones de empleo;
- información sensible;
- decisiones que pueden afectar derechos.
La regulación peruana contempla la supervisión humana entre los principios aplicables al uso de IA y establece controles adicionales para determinados sistemas de riesgo alto.
La supervisión también implica saber cuándo cuestionar a la IA
Supervisar no significa simplemente revisar que la herramienta haya terminado su tarea.
También implica preguntarse si el resultado tiene sentido, si existe información que el sistema no consideró y si la decisión es coherente con las reglas y obligaciones que debe cumplir la empresa.
En ese sentido, la inteligencia artificial en las empresas puede ser una herramienta de apoyo, pero la organización debe definir cómo se toman las decisiones finales.
6. ¿Qué debería revisar una empresa antes de implementar IA?
Antes de incorporar una nueva herramienta, puede ser útil realizar una revisión básica que combine aspectos tecnológicos, operativos y legales.
1. Definir para qué se utilizará
La empresa debe identificar qué problema pretende resolver. No es lo mismo utilizar IA para redactar contenidos que utilizarla para evaluar candidatos.
2. Identificar qué información procesará
Es necesario determinar si la herramienta tendrá acceso a datos personales, información confidencial, documentos de trabajadores o información estratégica.
3. Determinar si afectará decisiones sobre personas
Si la herramienta participa en selección, evaluación, contratación, cese o condiciones laborales, el nivel de análisis debe ser mayor debido a su clasificación como uso de riesgo alto en el marco peruano.
4. Establecer quién supervisará los resultados
Debe existir una persona o equipo responsable de revisar los resultados y actuar cuando se detecten errores.
5. Crear reglas internas para su utilización
Los trabajadores necesitan saber qué herramientas pueden utilizar, para qué fines y qué información no deben compartir.
6. Revisar periódicamente el sistema
La evaluación no debería hacerse solamente antes de implementar la herramienta. También es conveniente revisar su funcionamiento cuando cambien sus usos, datos o impacto.
La prevención jurídica frente al crecimiento de la inteligencia artificial
Cuando una empresa comienza a incorporar nuevas tecnologías, muchas veces la atención se concentra en la productividad. Se calcula cuánto tiempo se ahorra y cuántas tareas pueden automatizarse.
Pero existe otra parte de la ecuación: qué responsabilidades aparecen con ese uso.
Anticiparse a un problema puede ser más sencillo que corregirlo
Una revisión previa puede ayudar a identificar qué información puede procesar una herramienta, qué riesgos laborales podrían aparecer y qué medidas internas conviene establecer.
En este punto, el acompañamiento jurídico puede integrarse a la estrategia empresarial sin frenar la innovación.
Katherine Rafael Abogados trabaja el asesoramiento legal empresarial desde una perspectiva orientada a las necesidades de cada organización. Para las empresas que están incorporando nuevas tecnologías, una revisión preventiva puede servir para analizar sus obligaciones y establecer medidas acordes con sus operaciones.
La innovación también necesita reglas claras
La experiencia de muchas empresas demuestra que las políticas internas suelen aparecer después de que surge un problema. Con la IA puede ocurrir lo mismo: primero se empieza a utilizar la herramienta y después se intenta establecer qué está permitido.
Invertir ese orden puede resultar más conveniente.
Definir previamente responsabilidades, límites y mecanismos de supervisión permite que la inteligencia artificial en las empresas se integre de una manera más ordenada.
El papel del asesoramiento legal ante los nuevos desafíos tecnológicos
La llegada de la IA está generando nuevas preguntas para las empresas. Algunas tienen relación con el derecho laboral; otras, con protección de datos, contratos, confidencialidad o responsabilidad.
No todas las empresas enfrentan los mismos riesgos
Una empresa que utiliza IA para generar publicaciones no enfrenta exactamente las mismas consideraciones que una organización que utiliza sistemas automatizados para evaluar trabajadores.
Por eso, no existe una única política aplicable a todas las organizaciones.
El análisis debería considerar el tamaño de la empresa, la información que maneja, el sector en el que opera, el tipo de herramientas que utiliza y las decisiones en las que interviene la tecnología.
La asesoría debe acompañar la realidad de cada organización
Desde esa perspectiva, el trabajo jurídico no debería limitarse a reaccionar ante un conflicto. También puede ayudar a identificar escenarios de riesgo antes de que se conviertan en problemas.
Para conocer el enfoque y las diferentes áreas de trabajo del estudio, se puede consultar la información institucional de Katherine Rafael Abogados – Nosotros.
La idea es que el lector pueda conocer quién está detrás del análisis sin interrumpir el carácter editorial del artículo.
¿La inteligencia artificial es un riesgo o una oportunidad para las empresas?
La inteligencia artificial puede representar tanto una oportunidad como un riesgo para las empresas. Su impacto dependerá de cómo se implemente, qué información procese y en qué decisiones intervenga. Utilizarla con criterios claros, supervisión y medidas de protección permite aprovechar sus beneficios sin descuidar las responsabilidades legales.
La tecnología puede aportar eficiencia
La IA puede ayudar a automatizar tareas, procesar grandes cantidades de información y apoyar diferentes procesos empresariales.
El objetivo de la regulación no es impedir su utilización. El Reglamento de la Ley N.° 31814 establece un marco para promover el uso de IA procurando que sea seguro, ético, transparente y respetuoso de los derechos fundamentales.
El verdadero desafío está en utilizarla con responsabilidad
Para una empresa, incorporar IA no debería significar únicamente comprar una herramienta.
También significa establecer criterios para su uso, proteger la información, supervisar sus resultados y evaluar las consecuencias de las decisiones en las que intervenga.
La inteligencia artificial en las empresas puede convertirse así en una herramienta de crecimiento, siempre que la innovación avance acompañada de controles adecuados.
En caso de que una empresa necesite conocer los diferentes servicios y áreas de atención del estudio, puede consultar directamente la página de Katherine Rafael Abogados.
Preguntas frecuentes sobre inteligencia artificial en las empresas
La incorporación de nuevas tecnologías suele generar dudas, especialmente cuando la inteligencia artificial empieza a intervenir en procesos que involucran trabajadores, clientes o información interna. Estas son algunas de las preguntas que pueden surgir antes de implementar herramientas de IA en una empresa.
¿La empresa puede utilizar IA para seleccionar trabajadores?
Sí, pero este tipo de uso requiere especial atención. En Perú, los sistemas utilizados para procesos de selección, evaluación, contratación, cese y establecimiento de condiciones de empleo están considerados de riesgo alto. Esto implica que la empresa debe considerar medidas adicionales relacionadas con transparencia, supervisión y protección de derechos.
¿Una empresa puede introducir datos de sus trabajadores en una herramienta de IA?
No debería hacerlo sin analizar previamente qué datos se están compartiendo, para qué finalidad serán utilizados y qué medidas de protección existen. El uso de IA debe respetar la normativa peruana sobre privacidad y protección de datos personales, especialmente cuando se trata de información sensible o que puede afectar los derechos de una persona.
¿Quién es responsable si una IA se equivoca?
La utilización de una herramienta de IA no significa que la empresa deje de asumir responsabilidades por las decisiones que adopta. Por eso, cuando la tecnología interviene en procesos sensibles, es importante establecer mecanismos de supervisión humana, revisión de resultados y corrección de posibles errores.
¿Es necesario informar a las personas cuando interviene la IA?
En determinados sistemas de riesgo alto existen obligaciones de transparencia. La normativa contempla que los usuarios reciban información clara sobre la finalidad y funcionamiento del sistema y, cuando una decisión impacta en derechos humanos, que puedan recibir una explicación comprensible sobre los criterios y factores relevantes utilizados.
¿Qué información empresarial no debería compartirse con una IA?
Antes de introducir información en una plataforma, la empresa debería evaluar si contiene datos personales, contratos, información financiera, estrategias comerciales, bases de clientes, secretos empresariales u otros contenidos confidenciales. No toda herramienta ofrece las mismas condiciones de tratamiento y seguridad, por lo que conviene establecer previamente qué información puede compartirse.
¿Todas las herramientas de IA tienen los mismos riesgos legales?
No. El nivel de riesgo depende de la finalidad y del impacto que tenga el sistema. Una herramienta utilizada para redactar un texto no presenta necesariamente las mismas consideraciones que otra utilizada para evaluar candidatos o determinar condiciones laborales. El marco peruano precisamente diferencia los usos según su nivel de riesgo.
¿Qué debería hacer una empresa antes de implementar una herramienta de IA?
Lo recomendable es identificar para qué se utilizará, qué información procesará, si afectará decisiones sobre personas, quién supervisará sus resultados y qué reglas internas regularán su uso. Si la herramienta interviene en procesos sensibles, también conviene realizar una revisión jurídica específica antes de implementarla.
Innovar también significa saber dónde están los límites
Cuando una empresa empieza a utilizar inteligencia artificial, es fácil concentrarse en lo más visible: el tiempo que puede ahorrar, las tareas que puede automatizar o la cantidad de información que puede procesar. Sin embargo, con el uso cotidiano empiezan a aparecer preguntas que quizá no estaban presentes al momento de contratar la herramienta.
¿Qué información estamos compartiendo? ¿Quién revisa sus resultados? ¿Qué ocurre si el sistema se equivoca? ¿Cómo se protege a un trabajador cuando una decisión automatizada puede afectar su situación laboral?
Estas preguntas muestran que la inteligencia artificial en las empresas ya no puede analizarse únicamente desde la tecnología. También debe considerarse desde la privacidad, la transparencia, la protección de derechos y la responsabilidad de quienes toman las decisiones.
La experiencia demuestra que muchas veces las empresas empiezan a establecer controles después de enfrentarse a una dificultad. Con la IA, anticiparse puede ser especialmente relevante porque una herramienta puede integrarse rápidamente en procesos que afectan a muchas personas.
Por eso, utilizar inteligencia artificial en las empresas de manera responsable no significa frenar la innovación. Significa entender cómo funciona, establecer límites razonables y asegurarse de que detrás de cada decisión importante continúe existiendo una responsabilidad claramente definida.
