Las grandes empresas se lanzan a la gobernanza de la inteligencia artificial. El último caso conocido es el de SAP, una líder en software de gestión empresarial, quien ha editado un manual de uso ético de la tecnología en el que valoran las oportunidades de la IA, pero también se reconocen sus limites. Dicho manual se puede descargar aquí, pero nosotros se lo resumimos en este post, empezando por los principios fundamentales definidos por SAP:
- La empresa siempre se guía por sus valores
- Todos los desarrollos tienen en cuenta a las personas
- Los negocios se realizan sin prejuicios
- En todo lo que se hace, se busca la transparencia y la integridad
- Se adhiere a los estándares de calidad y seguridad
- La protección de datos y la privacidad son prioritarias
- Se compromete a abordar los desafíos sociales importantes que presenta la inteligencia artificial
El compromiso de SAP en relación con la ética en la IA se basa en su defensa y respaldo de la Declaración Universal de los Derechos Humanos. Una parte integral de esto es la proscripción de la discriminación y el acoso hacia seres humanos por motivos personales, como la raza, la condición étnica, la religión, la edad y el género.
SAP: dos capítulos de manual y varias restricciones a la IA
El manual está compuesto por dos capítulos. El primero de ellos se titula «Líneas Rojas», lo que da a entender que SAP ha fijado varias restricciones de la IA porque entiende que no se puede vulnerar:
- La autonomía individual de los usuarios –referente a la revelación de identidad, la discriminación y la vigilancia–.
- Los derechos sociales –la IA jamás debe comprometer el diálogo humano ni ser utilizada para la manipulación de los usuarios–.
- El medioambiente.
Asimismo, este primer capítulo incluye la definición de casos de considerable peligro, esto es, aquellos que no están prohibidos pero requieren de aprobación para poder desarrollarse. En tales circunstancias, es fundamental consultar al Comité ético directivo de la IA de SAP.
En la segunda parte del manual, denominado «AI Factory Process», SAP proporciona las pautas generales para cada etapa del desarrollo, compuesto por cinco fases: concepción, verificación, ejecución, elaboración del producto y operaciones, durante las cuales se deben aplicar los tres fundamentos para garantizar una IA fiable. Es fundamental que el uso de la Inteligencia Artificial sea ético en todas y cada una de las etapas del proceso, desde la identificación inicial de necesidades hasta la recepción final del producto por parte de los clientes, incluyendo el diseño de soluciones y su integración en los procesos de negocio existentes.
