Inquietudes y limitaciones de la participación voluntaria en el desarrollo de IA – Noticias de Piedu

Representantes de destacadas empresas tecnológicas como Amazon, Google, Microsoft y OpenAI se reunieron recientemente con la administración del presidente Joe Biden para hablar sobre tecnologías de IA seguras y responsables. La Casa Blanca ha publicado un documento que describe los principios de seguridad, protección y confianza necesarios para dar forma al futuro de la IA.

Sin embargo, la falta de formato estandarizado, membrete y símbolos de autoridad como Autor y Fuente en los documentos es relevante. Además, los compromisos voluntarios ofrecidos por empresas como Amazon, Google y Microsoft pueden no importar demasiado dado su historial de navegar las leyes existentes y torcer las reglas a su favor. Casos como los esfuerzos de fusión de Google y Amazon, el escándalo de Cambridge Analytica de Facebook y las supuestas violaciones de derechos de autor de Microsoft y OpenAI resaltan los desafíos que enfrentan los reguladores para hacer cumplir las leyes obligatorias existentes.

Un problema importante con los compromisos voluntarios es la variabilidad de la definición y la implementación. La Compañía puede optar por interpretar y cumplir estos compromisos de diversas maneras, en particular cuando el cumplimiento estricto de dichos compromisos puede resultar inconveniente desde el punto de vista financiero. La naturaleza internacional del desarrollo de IA complica aún más las cosas, ya que el cumplimiento de estos compromisos puede afectar la posición competitiva de una empresa.

Abordar estos desafíos requerirá un esfuerzo coordinado a nivel mundial. La Casa Blanca ha consultado con varios países, incluidos Australia, Canadá, Francia, Alemania, India, Japón y el Reino Unido, lo que indica el deseo de construir un frente internacional para abordar los desafíos de la IA. Pero la historia ha demostrado que el consenso internacional sobre temas de impacto económico significativo se reduce a la retórica más que a la acción. El ejemplo del Acuerdo Climático de París destaca este punto. Porque los intereses contrapuestos de los principales emisores, como Estados Unidos y China, han obstaculizado los esfuerzos globales para abordar el cambio climático.

La ausencia de China, el principal competidor tecnológico de Estados Unidos, de las consultas de la Casa Blanca plantea interrogantes sobre si Estados Unidos y sus aliados seguirán las pautas que otros países eligen no adoptar. Las promesas voluntarias sobre la IA pueden proporcionar una falsa tranquilidad, creando ilusiones de seguridad mientras persisten los problemas existentes. Una empresa con antecedentes problemáticos puede utilizar el entorno competitivo con China como excusa para ignorar los compromisos voluntarios.

Por lo tanto, se necesita un enfoque crítico cuando se trata de compromisos voluntarios. En cambio, se necesitan medidas más integrales e internacionalmente integrales que incluyan monitoreo, evaluación y sanciones por incumplimiento tanto por parte de las empresas como de los países.