En un movimiento pionero, el estado de Nueva York aprobó el 13 de junio de 2025 un proyecto de ley destinado a prevenir desastres causados por sistemas de inteligencia artificial (IA) de vanguardia, según reportes de TechCrunch y publicaciones en X. Esta legislación, considerada la primera de su tipo en Estados Unidos, busca regular el uso de modelos avanzados de IA desarrollados por empresas como OpenAI, Google y Anthropic, para evitar escenarios catastróficos que podrían resultar en la muerte o lesión de más de 100 personas o daños superiores a los mil millones de dólares.
–
Puntos clave de la legislación:
Evaluaciones de seguridad: Los sistemas de IA deben someterse a rigurosas pruebas de seguridad para identificar y mitigar riesgos potenciales antes de su implementación.
Transparencia: Las empresas están obligadas a divulgar el uso de sistemas de IA de alto riesgo, promoviendo una mayor responsabilidad en su desarrollo y aplicación.
Sanciones por incumplimiento: Se establecen multas y medidas para aquellos desarrolladores que no cumplan con los protocolos de seguridad establecidos, incentivando prácticas responsables.
Supervisión estatal: La ley crea un marco regulatorio que permite al estado supervisar el desarrollo y uso de modelos de IA avanzados, asegurando que no representen amenazas significativas.
–
La iniciativa responde a preocupaciones crecientes sobre los riesgos de la IA, como sesgos algorítmicos, decisiones automatizadas discriminatorias o fallos catastróficos, como los observados en casos previos (por ejemplo, el chatbot MyCity en Nueva York, que proporcionó información errónea en 2024). La legislación se alinea con esfuerzos internacionales, como la Ley de IA de la Unión Europea, que clasifica ciertos usos de IA como de “alto riesgo” y establece regulaciones estrictas. Sin embargo, a diferencia de enfoques federales aún no consolidados en EE. UU., Nueva York opta por actuar de manera independiente, adelantándose a la falta de regulación nacional.
–
Críticas y desafíos:
Aunque la ley ha sido aplaudida por su enfoque preventivo, algunos críticos, como Yann LeCun de Meta, argumentan que regulaciones estrictas podrían frenar la innovación y la investigación en IA, especialmente en el ámbito del código abierto. Otros, como el Centro para la Seguridad de la IA, apoyan la medida, destacando que un incidente grave podría obstaculizar el progreso tecnológico a largo plazo.
–
Impacto esperado:
Esta legislación posiciona a Nueva York como un líder en la regulación de IA en EE. UU., sentando un precedente para otras jurisdicciones. Al exigir protocolos de seguridad y transparencia, busca proteger a la sociedad de los riesgos de la IA mientras fomenta un desarrollo tecnológico responsable. Sin embargo, su éxito dependerá de la implementación efectiva y del equilibrio entre innovación y seguridad.
Add Comment