México — Expertos advierten sobre riesgos de la inteligencia artificial y la falta de regulación en México

La rápida incorporación de la inteligencia artificial (IA) en empresas y gobiernos avanza más rápido que la creación de leyes y mecanismos para regular su uso. Durante el encuentro México IA+, realizado el 4 y 5 de noviembre en Expo Santa Fe, especialistas advirtieron sobre los riesgos de delegar decisiones a sistemas automatizados sin establecer mecanismos de supervisión y responsabilidades por posibles errores o filtraciones de información.

En el encuentro, que reunió a académicos, legisladores, empresarios y expertos en tecnología, uno de los principales temas fue la necesidad de establecer reglas de gobernanza. Los participantes coincidieron en que las organizaciones deben contar con personas responsables de validar los procesos automatizados, definir criterios de uso y responder por las consecuencias de las decisiones tomadas con apoyo de IA.

Durante una conferencia sobre tecnología aplicada a las ciudades, Juan Pablo de Botton Falcón, secretario de Finanzas de la Ciudad de México, señaló que la capital trabaja en proyectos de digitalización, entre ellos la implementación de semáforos inteligentes para mejorar la movilidad. Sin embargo, reconoció que todavía hace falta promover una mayor adopción cultural de estas herramientas y que la planeación del proyecto representa un proceso complejo.

Por su parte, Alonso Tamez Vélez, secretario técnico de la Comisión de Inteligencia Artificial del Senado, alertó sobre los riesgos de que la automatización de decisiones gubernamentales genere estructuras de poder poco transparentes. Advirtió que una dependencia excesiva de estos sistemas podría dificultar que las instituciones expliquen cómo toman determinadas decisiones, particularmente en ámbitos como la seguridad nacional.

El especialista adelantó que en las próximas semanas se presentará una propuesta de Ley General para regular la inteligencia artificial en México, elaborada a partir de las inquietudes recogidas en conversatorios con distintos sectores desde 2024. También señaló que la falta de una legislación específica no exime a las empresas de cumplir con sus responsabilidades, especialmente en materia de protección de datos personales.

En materia de ciberseguridad, especialistas empresariales advirtieron que la IA también ha facilitado la sofisticación y expansión de los ataques digitales. Felipe Sánchez Romo, experto en la materia, explicó que las afectaciones económicas para las compañías incluyen interrupciones operativas, gastos de personal y pérdida de confianza de los clientes. Además, señaló que los fraudes mediante correos electrónicos recurren cada vez más a conversaciones prolongadas para generar confianza antes de solicitar información o recursos.

Entre los riesgos también se mencionó la llamada “Shadow IA”, práctica en la que los trabajadores utilizan herramientas de inteligencia artificial para procesar información confidencial de sus empresas sin autorización de los directivos ni políticas internas que regulen su uso. Ante este escenario, los participantes recomendaron clasificar la información, evaluar los niveles de seguridad, capacitar al personal e incorporar herramientas para detectar y contener vulnerabilidades.

Los especialistas coincidieron en que el crecimiento de la inteligencia artificial requiere fortalecer tanto los marcos regulatorios como la cultura de ciberseguridad, con el objetivo de evitar que empresas e instituciones dependan de sistemas cuyos procesos y decisiones no puedan explicar ni supervisar. ■ Proceso