Mariano Moreno Noticias toda la actualizad de la zona
¿Qué empresa proveerá la IA? ¿Dónde se almacenarán los datos de los ciudadanos? ¿Cuál será el órgano de control? Nada dicen desde el Gobierno nacional. A través del Boletín Oficial se anunció la creación de la Unidad de Inteligencia Artificial aplicada a la Seguridad (UIAAS), que nace para «analizar actividades en redes sociales para detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios», y entre otros puntos, «detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios».
Al regreso de su gira por Silicon Valley, el presidente Javier Milei prometió inversiones de los gigantes en Inteligencia Artificial y la utilización de esa tecnología para reducir el empleo público, pero la primera en aplicarla será la ministra de Seguridad, Patricia Bullrich, con la creación de la Unidad de Inteligencia Artificial Aplicada a la Seguridad (Uiaas). La unidad operará dentro de la Dirección de Ciberdelito y Asuntos Cibernéticos y tendrá entre sus tareas «patrullar la redes sociales abiertas», algo en lo que Bullrich tiene atencedentes de operativos y detenciones irrisorias tanto en la actual gestión como en la de Mauricio Macri. La nueva patrulla se suma a la fuerza de choque mileista que amenaza por redes.
La Resolución 710/2024, publicada este lunes en el Boletín Oficial, destaca a la Inteligencia Artificial como «uno de los cambios socio-tecnológicos más relevantes para la población en general» y pone como ejemplos en la aplicación de esta tecnología a Estados Unidos, China, Reino Unido, Israel, Francia, Singapur e India.
Las claves de su futura acción están en las funciones establecidas en el artículo 4.
* «Patrullar las redes sociales abiertas, aplicaciones y sitios de Internet, así como la llamada ‘internet profunda’ o ‘Dark-Web'». Dice que es para investigar delitos e identificar autores, no aclara si es en investigaciones judiciales en curso. También apunta a detectar, agrega, «situaciones de riesgo grave para la seguridad».
* «Identificar y comparar imágenes en soporte físico o virtual». Los expertos/as dicen que esto podría estar reñido con el derecho a la privacidad y la protección de datos personales, ya que no se puede usar de las personas sin causa.
*»Analizar imágenes de cámaras de seguridad en tiempo real a fin de detectar actividades sospechosas o identificar personas buscadas utilizando reconocimiento facial». Un dato que la resolución no contempla: en la Ciudad de Buenos Aires el sistema de identificación biométrica de prófugos está frenado por un fallo judicial, a partir de un amparo que cuestionó la su uso poco transparente, la filtración de datos en forma masiva e incluso el criterio de construcción de perfiles supuestamente sospechosos discriminatorios por rasgos, lugar de residencia, entre otros. Busaniche cuenta que en Boston y San Francisco está prohibido el reconocimiento facial en el espacio público.
* «Utilizar algoritmos de aprendizaje automático a fin de analizar datos históricos de crímenes y de ese modo predecir futuros delitos y ayudar a prevenirlos». En la red social X, el investigador del Conicet Martín Becerra señaló sobre ese punto que «es algo en lo que explícitamente el uso de Inteligencia Artifiical ha fallado y que, por tanto, hay que evitar». «El órgano gubernamental creado para patrullar las redes sociales aplicaciones y sitios de Internet» «contradice varios artículos de la Constitución Nacional».
*»Identificar patrones inusuales en las redes informáticas y detectar amenazas cibernéticas antes de que se produzcan ataques. Esto incluye la identificación de malware, phishing y otras formas de ciberataque».
*»Procesar grandes volúmenes de datos de diversas fuentes para extraer información útil y crear perfiles de sospechosos o identificar vínculos entre diferentes casos». Busaniche advierte que el «profiling o perfilamento de personas es uno de los campos de más alto riesgo de las IAs porque no hay manera certera de saber en base a qué se construye un perfil determinado. Evaluar el riesgo de que un individuo cometa un delito está expresamente prohibido en las normas de IA de la Unión Europea, se considera una implementación de IA de riesgo inaceptable, un ataque directo a la libertad de expresión, la violación del estado de derecho ya que se va a hacer perfilamiento de las personas por su opiníón y preferencias en redes sociales».
*»Patrullar mediante drones áreas extensas, proporcionar vigilancia aérea y responder a emergencias». Así dicho, pareciera que puede haber seguimientos indiscriminados.
*»Realización de tareas peligrosas, como la desactivación de explosivos» con «robots».
*»Mejorar la comunicación y coordinación entre diferentes fuerzas policiales y de seguridad» para compartir la «información crítica» en forma «rápida y eficiente». Es decir: es factible que datos privados, que el gobierno mete en su bolsa de sospechosos o cuestiones a investigar» circulen fácilmente.
*«Analizar actividades en redes sociales para detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios». Todos los especialistas ven en este punto una nueva amenaza a la protesta social, ya castigada por el gobierno de Javier Milei y las políticas del ministerio de seguridad a traves de sus protocolos: tanto contra la protesta como los que habilitan a agentes de seguridad a usar armas de fuego.
*»Detectar transacciones financieras sospechosas o comportamientos anómalos que podrían indicar actividades ilegales». No está claro cómo se aplicará este punto sin violar, por ejemplo, el secreto bancario. El órgano que concentra esa actividad es la Unidad de Información Financiera.
«Estos países están a la vanguardia en la integración de tecnologías de inteligencia artificial para fortalecer la seguridad y protección de sus ciudadanos, mejorando su eficiencia y efectividad», valora la resolución firmada por Bullrich y considera que «resulta indispensable aplicar la Inteligencia Artificial en la prevención, detección, investigación y persecución del delito y sus conexiones».
La resolución destaca la utilización de IA para tareas de “reconocimiento facial”, una tecnología aplicada por el PRO en la Ciudad de Buenos Aires, con denuncias y sentencias de inconstitucionalidad por parte del Poder Judicial, y avanza en la posibilidad de «analizar imágenes de cámaras de seguridad en tiempo real». Además, crea como tarea de la Uiaas la de «patrullar mediante drones áreas extensas, proporcionar vigilancia aérea y responder a emergencias».
Esa decisión coincide con la anunciada por el ministro de Transformación y Desregulación del Estado, Federico Sturzenegger, quien la semana pasada avanzó con el decreto 663/2024 de desregulación aérea para «promover y desregular el uso de drones como ya se hace en muchos países del mundo, crea un marco oportuno para el desarrollo de estas tecnologías y de inteligencia artificial». La resolución firmada por Bullrich sostiene que «la presente medida no implica erogación presupuestaria alguna».
El patrullaje de redes sociales
Entre los puntos de tareas encomendadas a la Uiass se destaca la de «patrullar las redes sociales abiertas, aplicaciones y sitios de Internet» y la de «analizar actividades en redes sociales para detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios»; en las que Bullrich tiene experiencias irrisorias.
En marzo pasado, el Ministerio de Seguridad ordenó el allanamiento de la vivienda de un joven en el barrio porteño de Chacarita tras analizar una discusión que mantuvo en la red social Instagram; en la que amenazaba «con un disparo en la cabeza» del presidente. Para argumentar la peligrosidad del detenido y solicitó a la Justicia Federal el allanamiento, la cartera de Bullrich indicó que «mediante el relevamiento de sus redes sociales, se determinó que demostraba tener un pensamiento ideológico muy apegado a la propaganda política de la ex Unión Soviética, contando con vínculos comunistas que podrían llegar a realizar acciones que atenten contra el orden público».
Poco despupes, en abril, un hombre de 42 años fue detenido en la provincia de Chubut, acusado de amenazar de muerte al presidente y escribir mensajes intimidatorios contra la vicepresidenta Victoria Villarruel y la ministra de Seguridad, Patricia Bullrich.
A principio de año, la ministra también anunció que las fuerzas de seguridad habían frenado un atentado que estaban preparando tres individuos sirio-libaneses, pero la operación fue desarmada por la jueza federal María Eugenia Capuchetti, que dejó en libertad a los sospechosos: un peluquero de Avellaneda, un jugador de ping pong y un usuario de redes sociales que decía ser mercenario.
Durante la gestión macrista, la ministra de Seguridad también realizó detenciones por amenazas contra el entonces presidente a través de redes sociales. En julio de 2016, Bullrich ordenó la detención de dos jóvenes de 21 años que habían creado una cuenta falsa en Twitter para hacer amenazas de falsos atentados, con comunicados en árabe e imágenes de la Casa Rosada o lugares públicos como el Shopping Abasto.
La duda es cómo actuará la Uiass frente a la fuerza de choque que el gobierno de Javier Milei fogonea a través de las redes sociales para amenazar a quienes disienten con las políticas de gobierno.
«Una resolución problemática», advierte una especialista
«Es una resolución problemática por donde uno la mire, porque supone que la IA (Inteligencia Artificial) tiene capacidades que realmente no tiene«, planteó la activista y presidenta de la Fundación Vía Libre, Beatriz Busaniche, especializada en derechos y tecnologías digitales.
«Hay una confusión enorme entre qué cosas se pueden hacer con IA, qué cosas no y qué cosas bajo ninguna circunstancia se deben hacer. Esta moda de ponerle IA a todo nos está llevando por un camino que puede terminar muy mal, y esta resolución del Gobierno es elocuente del mal uso de la IA», agregó Busaniche, entrevistada en la 750.
«Los sistemas de IA se entrenan con grandes volúmenes de información y a partir de eso los volúmenes identifican ciertos patrones y hacen diferencias estadísticas. Es decir, confiarle a un sistema de este tipo decisiones que afectan la vida de las personas es absolutamente problemático», enfatizó.
«Ni hablar cuando esas decisiones tienen que ver con la aplicación del derecho penal, la identificación de potenciales delitos y el perfilamiento de las personas. De hecho, si miramos algunas de las regulaciones a nivel internacional —una de las principales que hemos visto últimamente que es la de la Unión Europea—, el perfilamiento de las personas es uno de los elementos que se identifica como inadmisible, de riesgo inaceptable en la utilización de IA. Bueno, eso es lo que Bullrich, con una resolución de rango juridico, resuelve hoy», agregó Busaniche.
n esa línea, y consultada por si el Gobierno nacional, a través de esta iniciativa, estaría «autohabilitándose» para investigar sin orden judicial, Busaniche sostuvo: «Es exactamente eso».
Y explicó: «Habilitan que sistemas automatizados estén haciendo un barrido permanente sobre todo lo que se habla en línea. A partir de eso, que identifiquen ciertos patrones, que habrá qué ver qué es lo que buscan. Y hay otra cosa: en la cuestión de ciberpatrullaje vemos que van a usar sistemas de procesamiento de lenguaje natural, es decir interpretación de texto, levantan texto en lenguaje humano. Pero este tipo de sistemas no identifica una broma, una ironía o una metáfora, son absolutamente lineales y estadísticos«.
Además, resaltó que una de las claves es que esta resolución habilita negocios de todo tipo. «En cada ítem tenés un negocio de compra de distinto tipo de tecnología.
