La Casa Blanca ha reunido a siete compañías dedicadas al desarrollo de AI y algoritmos generativos, concretamente Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, y ha decidido anunciar su Original Postolitics/ai-regulation-biden.html" target="_blank" rel="noreferrer noopener" shape="rect">compromiso para el cumplimiento de ocho principios que considera de gran importancia, formulados de una manera muy amplia y general.
Los ocho principios, con la redacción finalmente aprobada por los participantes, son los siguientes:
- Las empresas se comprometen a realizar pruebas de seguridad internas y externas de sus sistemas de IA antes de su lanzamiento.
- Las empresas se comprometen a compartir información en la industria y con los gobiernos, la sociedad civil y el mundo académico sobre la gestión de los riesgos de la IA.
- Las empresas se comprometen a invertir en ciberseguridad y en salvaguardias contra amenazas internas para proteger los pesos de los modelos propietarios e inéditos.
- Las empresas se comprometen a facilitar el descubrimiento y la notificación de vulnerabilidades en sus sistemas de IA por parte de terceros.
- Las empresas se comprometen a desarrollar mecanismos técnicos sólidos para garantizar que los usuarios sepan cuándo se genera contenido mediante IA, como sistemas de marca de agua.
- Las empresas se comprometen a informar públicamente sobre las capacidades, limitaciones y áreas de uso apropiado e inapropiado de sus sistemas de IA.
- Las empresas se comprometen a priorizar la investigación sobre los riesgos sociales que pueden plantear los sistemas de IA, incluso para evitar prejuicios y discriminaciones perjudiciales o proteger la privacidad.
- Las empresas se comprometen a desarrollar e implementar sistemas avanzados de inteligencia artificial para ayudar a abordar los mayores desafíos de la sociedad.
Como puede observarse, ahora ya podemos estar todos muchísimo más tranquilos sabiendo que el avance de la tecnología, estando en esas manos, ya no va a representar nunca ningún tipo de problema.
¿No? ¿Cómo puede ser que no os quedéis tranquilos con semejantes compromisos? No sé, no lo entiendo… ¿quizás se deba a que varios de ellos ya han sido ampliamente incumplidos antes de su firma? ¿Alguien ha visto algún sistema realmente fiable que permita la identificación fehaciente de contenidos creados mediante algoritmos generativos y diferenciarlos de los creados por seres humanos? ¿Acaso se deben vuestros recelos al hecho de que varias de esas compañías han incumplido anteriormente varios de esos principios, hasta el punto de poner en peligro a personas o incluso a sistemas políticos de países enteros? ¿O a que, ante problemas de ciberseguridad, varias de esas compañías los han ocultado y negado durante largo tiempo? ¿O será, tal vez, porque algunos de esos compromisos tienen un tufillo a buenismo y a declaración vacía de buenas intenciones tan evidente que asusta?
¿De verdad alguien cree que una declaración como esta, con siete compañías escogidas no se sabe cómo, va a servir para algo? ¿Alguien se siente mejor después de leerla? ¿Qué pasará con esas siete compañías si simplemente no cumplen esos principios, incluso si los ignoran de manera clara y evidente? ¿Y con cualquier otra compañía que no sea ninguna de estas siete?
Francamente, tras una reunión así y unos principios como esos, no me siento en absoluto más tranquilo. La Casa Blanca ha señalado a siete compañías, y les ha pedido que firmen ocho compromisos tan amplios, tan interpretables y tan ambiguos que, en la práctica, no implican absolutamente nada desde un punto de vista legal o de obligaciones, y pretende que eso constituye algún tipo de regulación. No, eso no es regular. Primero, porque comete el error de pensar que lo que hay que regular es la tecnología, que no es susceptible de ser regulada. Y segundo, y mucho más grave, porque no intenta regular a los que aplican esa tecnología y la integran en sus lanzamientos de productos y servicios. La Casa Blanca está tratando a siete compañías como si fueran «los hechiceros de la tribu», y diciéndoles simplemente que «se comprometan a ser buenos y portarse bien», sin más, sin ningún tipo de marco que, de alguna manera, pueda servir para responsabilizarlas de los problemas que puedan surgir – que no lo olvidemos, no son problemas «de la tecnología», sino de su uso irresponsable.
Francamente, si esto es lo que los Estados Unidos tienen que aportar al futuro de la regulación en estos temas, más nos vale esperar a que alguien con más sentido común diga algo más sobre estos temas.
This post is also available in English on my Medium page, «Seven companies, eight vague promises»