Los legisladores europeos están terminando de trabajar en una ley de IA. La administración de Biden y los líderes del Congreso tienen sus planes para controlar la inteligencia artificial. Sam Altman, el director ejecutivo de OpenAI, creador de la sensación de IA ChatGPT, recomendó la creación de una agencia federal con autoridad de supervisión y concesión de licencias en el testimonio del Senado la semana pasada. Y el tema surgió en la cumbre del Grupo de los 7 en Japón.
En medio de los amplios planes y compromisos, la ciudad de Nueva York se ha convertido en una modesta pionera en la regulación de la IA.
El gobierno de la ciudad aprobó una ley en 2021 y adoptó reglas específicas el mes pasado para una aplicación de alto riesgo de la tecnología: decisiones de contratación y promoción. La aplicación comienza en julio.
La ley de la ciudad requiere que las empresas que utilizan software de inteligencia artificial en la contratación notifiquen a los candidatos que se está utilizando un sistema automatizado. También requiere que las empresas tengan auditores independientes que verifiquen la tecnología anualmente para detectar sesgos. Los candidatos pueden solicitar y recibir información sobre qué datos se recopilan y analizan. Las empresas serán multadas por violaciones.
El enfoque centrado de la ciudad de Nueva York representa un frente importante en la regulación de la IA. En algún momento, los principios generales desarrollados por los gobiernos y las organizaciones internacionales, dicen los expertos, deben traducirse en detalles y definiciones. ¿Quién está siendo afectado por la tecnología? ¿Cuáles son los beneficios y los daños? ¿Quién puede intervenir y cómo?
“Sin un caso de uso concreto, no está en posición de responder esas preguntas”, dijo Julia Stoyanovich, profesora asociada de la Universidad de Nueva York y directora de su Centro para la IA responsable.
Pero incluso antes de que entre en vigor, la ley de la ciudad de Nueva York ha sido un imán para las críticas. Los defensores del interés público dicen que no va lo suficientemente lejos, mientras que los grupos empresariales dicen que no es práctico.
Las quejas de ambos campos apuntan al desafío de regular la IA, que avanza a un ritmo vertiginoso con consecuencias desconocidas, provocando entusiasmo y ansiedad.
Los compromisos incómodos son inevitables.
A la Sra. Stoyanovich le preocupa que la ley de la ciudad tenga lagunas que puedan debilitarla. “Pero es mucho mejor que no tener una ley”, dijo. “Y hasta que no intentes regular, no aprenderás cómo hacerlo”.
La ley se aplica a las empresas con trabajadores en la ciudad de Nueva York, pero los expertos laborales esperan que influya en las prácticas a nivel nacional. Al menos cuatro estados (California, Nueva Jersey, Nueva York y Vermont) y el Distrito de Columbia también están trabajando en leyes para regular la IA en la contratación. E Illinois y Maryland han promulgado leyes que limitan el uso de tecnologías de IA específicas, a menudo para la vigilancia del lugar de trabajo y la selección de candidatos para el puesto.
La ley de la ciudad de Nueva York surgió de un choque de puntos de vista muy opuestos. El Concejo Municipal lo aprobó durante los últimos días de la administración del alcalde Bill de Blasio. Las rondas de audiencias y comentarios públicos, más de 100,000 palabras, vinieron después, supervisadas por el Departamento de Protección al Consumidor y al Trabajador de la ciudad, la agencia normativa.
El resultado, dicen algunos críticos, es demasiado comprensivo con los intereses comerciales.
“Lo que podría haber sido una ley histórica se diluyó hasta perder efectividad”, dijo Alexandra Givens, presidenta del Centro para la Democracia y la Tecnología, una organización política y de derechos civiles.
Eso se debe a que la ley define una «herramienta de decisión de empleo automatizada» como la tecnología utilizada «para ayudar o reemplazar sustancialmente la toma de decisiones discrecionales», dijo. Las reglas adoptadas por la ciudad parecen interpretar esa redacción de manera restringida, de modo que el software de inteligencia artificial requerirá una auditoría solo si es el factor único o principal en una decisión de contratación o se usa para invalidar a un ser humano, dijo la Sra. Givens.
Eso deja de lado la forma principal en que se usa el software automatizado, dijo, y un gerente de contratación invariablemente toma la decisión final. El potencial de discriminación impulsada por la IA, dijo, generalmente surge en la selección de cientos o miles de candidatos hasta un puñado o en el reclutamiento en línea dirigido para generar un grupo de candidatos.
La Sra. Givens también criticó la ley por limitar los tipos de grupos medidos por trato injusto. Cubre los prejuicios por sexo, raza y etnia, pero no la discriminación contra los trabajadores mayores o aquellos con discapacidades.
“Mi mayor preocupación es que esto se convierta en la plantilla a nivel nacional cuando deberíamos pedir mucho más a nuestros legisladores”, dijo la Sra. Givens.
La ley se redujo para agudizarla y asegurarse de que fuera enfocada y aplicable, dijeron funcionarios de la ciudad. El Concejo y la agencia de protección de los trabajadores escucharon muchas voces, incluyendo activistas de interés público y compañías de software. Su objetivo era sopesar las compensaciones entre la innovación y el daño potencial, dijeron los funcionarios.
“Este es un éxito regulatorio significativo para garantizar que la tecnología de IA se use de manera ética y responsable”, dijo Robert Holden, quien era el presidente del comité de tecnología del Consejo cuando se aprobó la ley y sigue siendo miembro del comité.
La ciudad de Nueva York está tratando de abordar la nueva tecnología en el contexto de las leyes federales del lugar de trabajo con pautas sobre la contratación que datan de la década de 1970. La norma principal de la Comisión de Igualdad de Oportunidades en el Empleo establece que ninguna práctica o método de selección utilizado por los empleadores debe tener un “impacto dispar” en un grupo legalmente protegido como las mujeres o las minorías.
Las empresas han criticado la ley. En una presentación de este año, Software Alliance, un grupo comercial que incluye a Microsoft, SAP y Workday, dijo que el requisito de auditorías independientes de IA «no era factible» porque «el panorama de auditoría es incipiente», carece de estándares y organismos de supervisión profesional.
Pero un campo naciente es una oportunidad de mercado. El negocio de auditoría de IA, dicen los expertos, solo va a crecer. Ya está atrayendo bufetes de abogados, consultores y empresas emergentes.
Las empresas que venden software de inteligencia artificial para ayudar en las decisiones de contratación y promoción generalmente han adoptado la regulación. Algunos ya se han sometido a auditorías externas. Ven el requisito como una ventaja competitiva potencial, lo que demuestra que su tecnología amplía el grupo de candidatos laborales para las empresas y aumenta las oportunidades para los trabajadores.
“Creemos que podemos cumplir con la ley y mostrar cómo se ve una buena IA”, dijo Roy Wang, asesor general de Eightfold AI, una empresa emergente de Silicon Valley que produce software que se usa para ayudar a los gerentes de contratación.
La ley de la ciudad de Nueva York también adopta un enfoque para regular la IA que puede convertirse en la norma. La medida clave de la ley es una «relación de impacto», o un cálculo del efecto del uso del software en un grupo protegido de candidatos para el trabajo. No profundiza en cómo un algoritmo toma decisiones, un concepto conocido como “explicabilidad”.
En aplicaciones que afectan la vida como la contratación, dicen los críticos, las personas tienen derecho a una explicación de cómo se tomó una decisión. Pero la IA, como el software de estilo ChatGPT, se está volviendo más compleja, lo que quizás pone fuera de alcance el objetivo de una IA explicable, dicen algunos expertos.
“El enfoque se convierte en el resultado del algoritmo, no en el funcionamiento del algoritmo”, dijo Ashley Casovan, directora ejecutiva del Instituto de IA Responsable, que está desarrollando certificaciones para el uso seguro de aplicaciones de IA en el lugar de trabajo, la atención médica y las finanzas.
