SAS amplía su oferta de IA con tarjetas de modelos y servicios de gestión de IA.

Las "etiquetas nutricionales" de los modelos fomentan la transparencia y sacan a la luz posibles sesgos y desviaciones de los modelos, al tiempo que apoyan los modelos de código abierto.

SAS, líder en datos e IA, lanza nuevos productos y servicios de IA confiable para mejorar la gestión de la IA y respaldar la confianza y transparencia de los modelos. Las tarjetas de modelo y los nuevos servicios de asesoría sobre el gobierno de la IA ayudarán a las organizaciones a navegar por el cambiante panorama de la IA, mitigando los riesgos y ayudándolas a perseguir sus objetivos con más confianza. SAS también ha publicado un flujo de trabajo de ciclo de vida de IA de confianza, mapeado con el Marco de Gestión de Riesgos de IA del Instituto Nacional de Estándares y Tecnología (NIST).

"Nuestros clientes están entusiasmados con el potencial de la IA, pero siguen siendo cautelosos sobre cuándo y cómo usarla", dijo Reggie Townsend, vicepresidente de la Práctica de Ética de Datos de SAS. "Están haciendo buenas preguntas sobre la IA responsable y ética. Nuestro objetivo es darles las herramientas y la orientación, basadas en décadas de experiencia, para integrar la IA de manera que impulse la rentabilidad al tiempo que reduce los daños no deseados."

Tarjetas modelo: Las "etiquetas nutricionales" de la IA confiable

Puede ser difícil tomar algo tan complejo y sofisticado como un modelo de IA y convertirlo en algo de fácil comprensión para todos los implicados en el ciclo de vida de la IA. A medida que se aprueban nuevas normas y reglamentos en todo el mundo, la capacidad de comprender y compartir con los reguladores el rendimiento de un modelo será crucial. Las tarjetas de modelo, una próxima función de SAS^® Viya^®, servirán a las partes interesadas en todo el ciclo de vida de la IA. Desde los desarrolladores hasta los directores de los consejos de administración, todos los interesados encontrarán valor en una herramienta curada que admite modelos propietarios y de código abierto.

Con su lanzamiento a mediados de 2024, las tarjetas de modelo se describen mejor como "etiquetas nutricionales" para los modelos de IA. El enfoque de SAS es autogenerar tarjetas de modelo para modelos registrados con contenido directamente de los productos de SAS, eliminando la carga de los usuarios individuales para crearlas. Además, dado que SAS Viya ya cuenta con una arquitectura para la gestión de código abierto, las tarjetas de modelo también estarán disponibles para los modelos de código abierto, empezando por los modelos Python. 

Las tarjetas de modelo destacarán indicadores como la precisión, la imparcialidad y la deriva del modelo, que es el deterioro del rendimiento del modelo a medida que cambian las condiciones. Incluyen detalles de gobernanza como cuándo se modificó el modelo por última vez, quién contribuyó a él y quién es responsable del modelo, lo que permite a las organizaciones abordar internamente el rendimiento anormal del modelo. La sección de uso del modelo aborda el uso previsto, los casos de uso fuera del alcance y las limitaciones, que serán factores clave a medida que la transparencia y la auditoría de modelos se conviertan probablemente en operaciones comerciales reguladas. Las tarjetas de modelo se presentaron a principios de este año en SAS Insight, una conferencia para analistas. 

"SAS está adoptando un enfoque reflexivo sobre cómo ayudar a los clientes a adoptar la IA, centrándose en las realidades prácticas y los desafíos de la implementación de la IA en contextos de la industria real", dijo Eric Gao, director de investigación de la firma de análisis IDC. "Las tarjetas modelo serán valiosas para supervisar los proyectos de IA y fomentar la transparencia".

Nuevo grupo de gobierno de IA dirigido por un veterano de la IA ética

Con la proliferación de la IA, los clientes de SAS están cada vez más preocupados sobre cómo utilizar sus datos de forma productiva y segura. Para ayudarles en sus experiencias con los datos y la IA, SAS presenta AI Governance Advisory, un servicio de valor agregado para los clientes actuales. 

Comenzando con una breve reunión, SAS AI Governance Advisory ayudará a los clientes a reflexionar sobre lo que significa la gobernabilidad de la IA en el contexto de sus organizaciones. SAS ha puesto a prueba este servicio, y los clientes han observado varios beneficios:

• Mayor productividad gracias a una toma de decisiones distribuida y de confianza.
• Mayor confianza gracias a una mejor rendición de cuentas en el uso de los datos.
• La capacidad de captar y retener a los mejores talentos que exigen prácticas de innovación responsables.
• Mayor ventaja competitiva y agilidad de mercado por ser "forward compliant".
• Mayor valor de marca por afrontar los posibles impactos en la sociedad y el medio ambiente.

PZU Insurance de Polonia es una de las principales instituciones financieras de Europa Central y Oriental. Cliente de SAS desde hace tiempo, PZU despliega IA en áreas como reclamaciones, ventas, detección de fraudes y atención al cliente. 

"Nuestras conversaciones sobre la gestión de la IA con SAS nos ayudaron a considerar posibles factores invisibles que podrían causar problemas a los clientes y a nuestro negocio", afirma Marek Wilczewski, director general de gestión de información, datos y análisis (Chief Data Officer/Chief Analytics Officer) de PZU. "Entendemos mejor la importancia de tener más perspectivas cuando nos adentramos en proyectos de IA".

El veterano del sector y experto en ética de la IA Steven Tiell ha sido contratado como Director Global de Gobernanza de la IA de SAS. Tiell, que dirigió la práctica global de ética de datos e innovación responsable de Accenture, es también el ex vicepresidente de Estrategia de IA en DataStax. 

Basándose en las nuevas normas gubernamentales   

El año pasado, el Instituto Nacional de Normas y Tecnología de EE.UU. (NIST) lanzó un Marco de Gestión de Riesgos de la IA. Se ha convertido en una valiosa herramienta para que las organizaciones diseñen y gestionen una IA confiable y responsable en ausencia de normativas oficiales.  

SAS ha creado un flujo de trabajo del ciclo de vida de la IA confiable, que facilita la adopción de las recomendaciones del NIST por parte de las organizaciones mediante la especificación de las funciones y expectativas individuales, la recopilación de la documentación necesaria, la descripción de los factores a tener en cuenta y el aprovechamiento de la automatización para facilitar la adopción. Las organizaciones acaban disponiendo de un modelo de producción con documentación que demuestra que han actuado con la diligencia debida para garantizar que el modelo es justo y que sus procesos no causan daños.

El flujo de trabajo permite a las organizaciones documentar sus consideraciones sobre el impacto de los sistemas de IA en las vidas humanas. Incluye pasos para garantizar que los datos de entrenamiento son representativos de la población afectada y que las predicciones y el rendimiento del modelo son similares en todas las clases protegidas. Estos pasos ayudan a garantizar que el modelo no está causando un impacto dispar o daño a grupos específicos. Además, los usuarios pueden garantizar que un modelo siga siendo preciso a lo largo del tiempo mediante la creación de tareas humanas que actúen cuando se requiera una atención adicional.

El flujo de trabajo SAS Trustworthy AI Life Cycle puede descargarse de SAS Model Manager Resources Github y pronto estará disponible a través del NIST AI Resource Center.

El anuncio de hoy se realizó en SAS Innovate, la experiencia de datos e inteligencia artificial para líderes empresariales, usuarios técnicos y socios de SAS. Manténgase al día con las últimas noticias de SAS siguiendo @SASsoftwareNews en X/Twitter.

Acerca de SAS

SAS es líder mundial en datos e IA. Con el software de SAS y las soluciones específicas por industria, las organizaciones transforman los datos en decisiones confiables. SAS brinda THE POWER TO KNOW ®.