La rápida expansión de la inteligencia artificial está transformando el tejido empresarial a una velocidad sin precedentes. Pero junto con las oportunidades, emergen también riesgos éticos, legales y reputacionales que pueden comprometer la confianza pública en las organizaciones. En este contexto, Setesca alerta de la importancia de crear un nuevo rol clave en la empresa moderna: el Oficial Ético de Inteligencia Artificial.
Este nuevo perfil profesional tiene como misión asegurar que el uso de la IA sea transparente, responsable y coherente con los valores corporativos, supervisando la implementación de tecnologías para evitar sesgos, vulneraciones de privacidad o usos inapropiados.
“El reto ya no es solo técnico, es ético. Las empresas que no gestionen bien los límites de la inteligencia artificial pueden enfrentarse a crisis reputacionales graves”, advierte Jordi Damià, CEO de Setesca. “Contar con un Oficial Ético de IA será tan esencial como tener un director financiero o un responsable de compliance”, añade.
La ética de la IA, una prioridad empresarial
Según un estudio de Parangon Partners, el 58% de los directivos estima que la privacidad y la ética son los mayores desafíos de la IA. Además, un informe reciente de KPMG y la Universidad de Melbourne, señala que la mitad de los usuarios le preocupa la seguridad, el uso indebido y la regulación insuficiente de la IA.
En este contexto, el Oficial ético de IA se perfila como una figura transversal que colabora con departamentos de tecnología, legal, comunicación y recursos humanos para garantizar que la adopción de IA en la empresa se realice con criterios de equidad, transparencia y seguridad.
¿Quién es el Oficial ético de IA?
El Oficial Ético de IA combina formación tecnológica y conocimiento en gestión empresarial, derecho digital y responsabilidad corporativa. Se le pide una visión integral del impacto de la IA en la organización, así como habilidades para evaluar riesgos, crear políticas internas de uso responsable y establecer protocolos de supervisión y transparencia.
Entre sus competencias destacan:
- Conocimiento técnico funcional de sistemas de IA y sus limitaciones.
- Capacidad analítica y pensamiento crítico para evaluar riesgos éticos y regulatorios.
- Habilidades de comunicación y liderazgo transversal, para mediar entre áreas técnicas, legales y de negocio.
- Sensibilidad social y compromiso con la sostenibilidad y la equidad.
En muchas organizaciones, este rol actúa de forma coordinada con los departamentos de compliance, IT, recursos humanos y comunicación.
Manifiesto internacional RED LINES AI
En línea con su compromiso por una inteligencia artificial responsable, Setesca se ha adherido al manifiesto internacional RED LINES AI – Call for red lines to prevent unacceptable AI risks, una iniciativa respaldada por expertos, académicos y organizaciones tecnológicas que reclaman la creación de “líneas rojas” globales para prevenir riesgos inaceptables en el desarrollo de IA.
El manifiesto propone limitar el uso de sistemas de IA en ámbitos donde puedan amenazar la dignidad humana, la democracia o la privacidad, y busca fomentar una cultura empresarial que combine innovación con responsabilidad.
“El compromiso ético debe formar parte del ADN de cualquier compañía que utilice IA. Adherirnos al manifiesto RED LINES AI es una forma de reafirmar nuestra convicción de que la tecnología debe estar al servicio de las personas, no al revés”, subraya Damià.
Acerca de Setesca – www.setesca.com
Setesca nace en 2007 fundada por Jordi Damià y orientada a ofrecer un servicio diferencial en sistemas de información e implantación de procesos de optimización. Pronto se convierte en un nuevo modelo estratégico de consultoría especializada en mejora de la gestión de departamentos TIC, y servicios y productos innovadores y de alta productividad. Del mismo modo, también está especializada en Gestión de Talento y soporte a la implantación de la innovación. La máxima del nuevo modelo de consultoría es la cercanía y flexibilidad a las necesidades del cliente, involucrándose directamente en los resultados esperados. Setesca ayuda a las empresas a adoptar procesos de innovación en compañías como en Seat, ICIL, Iberdrola, etc.
