La compañía lanza una plataforma en la nube que permite a las empresas mitigar riesgos y asegurar el cumplimiento normativo.
IBM ha anunciado una plataforma para que las empresas automaticen la gestión, supervisión y gobierno de la inteligencia artificial (IA), de manera que puedan mitigar riesgos de manera proactiva, asegurar el cumplimiento normativo y abordar las preocupaciones éticas de estos proyectos.
IBM defiende que el servicio, que estará disponible en la nube a principios de diciembre, ayuda a las empresas a desplegar desarrollos de IA transparentes, y les permite eliminar la incertidumbre en torno a los datos que se utilizan y las respuestas que se obtienen. La multinacional tecnológica sostiene que, de esta manera, las organizaciones podrán generar confianza alrededor de la IA generativa.
Ana Paula Assis, directora general de IBM para la región Emea, subraya que, en el despliegue de los proyectos de IA, "la principal preocupación de las organizaciones, especialmente las que operan entornos altamente regulados, son los aspectos éticos". La ejecutiva defiende que la transparencia, explicabilidad, seguridad e imparcialidad son la base para un uso responsable de esta tecnología.
Con esta plataforma, denominada watson.governance, las organizaciones pueden gobernar en la nube desarrollos realizados con diversos modelos de lenguaje natural, incluidos los de IBM, Llama 2 de Meta y los de la comunidad Hugging Face. El objetivo es ampliar el alcance durante el primer trimestre de 2024, para que las organizaciones puedan gestionar modelos de cualquier proveedor, tanto en entornos cloud como en sus propios sistemas.
La multinacional tecnológica defiende que la plataforma ayudará a las organizaciones a cumplir tanto sus políticas internas como los requisitos regulatorios alrededor de la inteligencia artificial, de manera que se puedan implantar herramientas fiables.
"No creo que las empresas puedan ni deban parar sus desarrollos de IA hasta que exista una regulación. Independientemente de cuál sea el marco legal, las organizaciones tienen que construir una IA que sea transparente, explicable y justa", señala Christina Montgomery, Chief Privacy & Trust Officer de IBM.
Por ejemplo, la plataforma alerta si se superan los umbrales preestablecidos para las métricas de calidad, se detectan casos de lenguaje tóxico o se usan datos con información de identificación personal. Además, recopila de manera automática información sobre el proceso de construcción del modelo fundacional y explica las decisiones tomadas, lo que mitiga las alucinaciones y otros riesgos. También se documentan todos los hechos del modelo en todas las etapas del ciclo de vida, y se ofrecen herramientas de validación para determinar si el modelo fundacional está influenciado de manera adecuada por los datos de referencia. La supervisión automática de la equidad, el sesgo y la deriva, permite detectar la necesidad de reentrenar el modelo.
Esta herramienta es uno de los tres pilares de la plataforma de IA y datos de IBM, que se lanzó el pasado verano. La oferta se completa con watson.ai, que permite entrenar e implementar IA generativa, y con watson.data, un almacén de datos abierto e híbrido. Ana Paula de Assis asegura que hay "un gran interés" por esta oferta de IBM, sobre la que ya se han desplegado "miles de pilotos" en todo el mundo.