La Inteligencia Artificial está en auge en todo el mundo y el debate sobre su regulación toma cada vez más relevancia en la agenda italiana. Es que el gobierno de dicho país prevé presentar un proyecto, de 25 artículos, que establecerá principios generales sobre «la investigación experimentación, desarrollo, adopción y aplicación» de la IA y buscará endurecer las penas relacionadas a delitos que utilicen esta tecnología.
El Consejo de Ministros Italiano espera darle luz verde al proyecto a fines de abril. Luego de eso, la propuesta pasará por el Parlamento para ser revisada y, de haber acuerdos, aprobada definitivamente antes de entrar en vigor.
Italia vs inteligencia artificial: que establece el proyecto de ley
La preocupación por el avance de la IA comienza a generar respuestas desde los gobiernos de todo el mundo. En Italia, el arco político buscará legislar por primera vez esta tecnología para hacer frente al «impacto sobre los derechos fundamentales» y los riesgos económicos y sociales relacionados.
La propuesta legislativa – cuyo contenido todavía está sujeto a cambios – prevé el uso de este tipo de herramientas en el sector sanitario y en la Justicia, centrándose en su impacto en las condiciones laborales. A su vez, también propone las bases de una estrategia nacional para el desarrollo de la Inteligencia Artificial.
En cuanto a la parte punitiva, el proyecto sienta penas más duras por manipulación del mercado mediante herramientas de IA y estipula que su uso para el blanqueo de dinero representa un elemento agravante. También busca establecer multas por violación de los derechos de autor mediante IA y penas de cárcel de hasta tres años para quienes utilicen este tipo de desarrollos para sustituir a otras personas, como por ejemplo en el caso de los conocidos «deepfakes«.
Por ahora, la propuesta de ley se encuentra en instancias iniciales. Se espera que el Consejo de Ministros italiano avance con el proyecto a fines de abril para que el mismo luego pase por el Parlamento para ser revisado y aprobado definitivamente antes de entrar en vigor.
La Unión Europea: el pionero en la regulación
La Unión Europea tiene puesto el foco en el uso de la Inteligencia Artificial. Hace varios meses que los legisladores del parlamento debaten sobre los riesgos, ventajas y posibles límites sobre este tipo de tecnología.
Finalmente, durante marzo, los eurodiputados dieron luz verde a la primera «Ley de IA» del mundo: una normativa destinada a regular los sistemas de Inteligencia Artificial, a partir de un planteo basado en el riesgo.
La ley fue aprobada por abrumadora mayoría: de 618 de votos, 523 fueron a favor, 46 en contra y hubieron 49 abstenciones. La legislación entrará entonces en vigor durante el mes de mayo.
«Tenemos la primera regulación del mundo que marca un camino claro para un desarrollo seguro y centrado en el ser humano de la IA. Ahora tenemos un texto que refleja las prioridades del Parlamento», declaró Brando Benifei, legislador italiano de la UE. Además, Benifei aseguró que ahora lo importante es «la aplicación y el cumplimiento por parte de las empresas e instituciones«.
Según la flamante ley, los sistemas de IA se dividirán en cuatro categorías principales en función del riesgo potencial que supongan para la sociedad. Así, aquellos que sean considerados de alto riesgo tendrán normas más estrictas al resto.
Los sistemas de alto riesgo – aquellos que se considera que tienen el potencial para causar un perjuicio a la salud, la seguridad o los derechos fundamentales, en casos como la admisión educativa, la contratación laboral o los procesos electorales -, deberán tener sistemas de gestión de riesgo con evaluaciones periódicas, implementar medidas de gobernanza (como la detección y eliminación de sesgos) y de seguridad de los datos, además de también tener control humano.
Las normas generales sobre IA se aplicarán un año después de su entrada en vigor, en mayo de 2025, y las obligaciones para los sistemas de alto riesgo en tres años. Si bien las mismas estarán bajo la supervisión de las autoridades nacionales, con el apoyo de la oficina de IA dentro de la Comisión Europea, cada país miembro deberá crear agencias nacionales que supervisen la actividad.
Entre los usos prohibidos que delimita la ley se encuentran: la actuación policial predictiva basada solo en el perfil o las características de una persona; la recolección de imágenes de internet y/o de grabaciones de cámaras de seguridad para crear bases de reconocimiento facial; la categorización biométrica que permita inferir datos sensibles -como opiniones políticas y/o orientación sexual-; y el reconocimiento de emociones en lugares como el trabajo o las escuelas.
La norma también prevé multas en caso de que las empresas desarrolladoras presenten a las autoridades información inexacta o engañosa. Según el texto legislativo, las mismas podrán ser de 7,5 millones de euros el 1% de la facturación global de las empresas, mientras que si una empresa no respeta las prácticas prohibidas, la sanción podrá llegar hasta los 35 millones de euros o el 7% del volumen mundial de negocios, lo que sea mayor.
