Vislumbrando una Inteligencia Artificial Confiable a Través de una Supervisión Mejorada
En la principal reunión tecnológica de Londres, el Dr. Scott Zoldi, jefe de análisis en FICO, compartió perspectivas sobre el futuro de la inteligencia artificial (IA) y la convergencia de la tecnología blockchain. Destacando la necesidad crucial de una «IA responsable», el Dr. Zoldi explicó que estos sistemas deben ser empleados con confianza en la toma de decisiones críticas. Clave para esta confianza es un marco que permita la auditoría y la explicación de los procesos de decisión de la IA, los cuales deben ser comunicados abiertamente a los organismos reguladores.
Supervisión Humana en los Sistemas de IA
El Dr. Zoldi resaltó la importancia de la participación humana en el ciclo de vida de la IA, un concepto bien aceptado en FICO. Este enfoque de «humanos en el ciclo» fomenta la revisión y corrección de posibles sesgos en los datos, contribuyendo a alinear las salidas de la IA con estándares éticos e imparciales.
Papel de la Blockchain en Garantizar la Integridad de la IA
La tecnología blockchain es fundamental para fortalecer la confianza en la IA. Al crear registros inmutables del desarrollo de la IA y los procesos de toma de decisiones, asegura transparencia y responsabilidad. Este seguimiento de auditoría inmutable puede motivar a los ingenieros de IA y científicos de datos a adherirse estrictamente a prácticas de IA responsables.
Abordando Sesgos de Datos Inherentes
Abordar el sesgo es crucial tanto en los conjuntos de datos como en las perspectivas de los ingenieros de IA. Los estándares para el desarrollo de modelos se están estableciendo de manera colectiva y se refuerzan mediante blockchain, asegurando un enfoque consistente en toda la industria.
Garantizando Transparencia y Protección de la Propiedad Intelectual
FICO emplea una blockchain basada en permisos, Hyperledger Fabric, para facilitar auditorías seguras y transparentes al mismo tiempo que salvaguarda la propiedad intelectual. Los reguladores y actores necesarios pueden obtener acceso para asegurarse de que se sigan las pautas, logrando un equilibrio entre transparencia y seguridad de la propiedad intelectual.
Manteniendo el Elemento Humano en la IA
El Dr. Zoldi cree firmemente que mantener la intervención humana en el desarrollo de la IA es fundamental. Si bien la confianza en la IA es algo tentativa, la inclusión de juicio humano en los sistemas de IA es esencial para aumentar la confianza y reducir errores.
Generando Confianza en la IA a Través de la Regulación y la Responsabilidad
Para promover la confianza en la IA, FICO aboga por medidas de protección rigurosas, construcción de modelos responsables y ver la IA como una herramienta de apoyo. El Dr. Zoldi ve la combinación de la IA y la blockchain no solo como innovadora, sino como un avance necesario, vital para el crecimiento sostenible de la IA cumpliendo con estándares legales y éticos.
[…]