Rita El Khoury / Autoridad de Android
TL;DR
- Los líderes de la industria acudieron a la Casa Blanca para comprometerse a desarrollar una IA segura y transparente.
- Las empresas acordaron marcar con agua el contenido generado por IA, probar productos interna y externamente antes del lanzamiento, y más.
- Apple estuvo notablemente ausente de la reunión.
Desde que OpenAI lanzó ChatGPT, varias otras empresas se han apresurado a lanzar sus propios productos impulsados por IA. En los meses transcurridos desde entonces, hemos visto los pros y los contras de lo que la IA puede ser capaz de hacer. Para ayudar a contener el mal, varios líderes de la industria se comprometieron a desarrollar una IA más segura, pero faltaba un líder en particular.
Hoy se anunció que siete empresas líderes en IA se han reunido en la Casa Blanca para comprometerse voluntariamente con el desarrollo seguro, protegido y transparente de la tecnología de IA. Estas empresas incluían Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI.
Uno de los compromisos que podría tener el mayor impacto es el acuerdo de marca de agua de contenido generado por IA. Las marcas de agua harían mucho más fácil identificar cuándo la IA creó algo. “Esta acción permite que florezca la creatividad con IA, pero reduce los peligros de fraude y engaño”, dice la Casa Blanca. Tal paso podría ayudar a evitar la confusión causada por falsificaciones profundas como la foto de la chaqueta del Papa o el software de generación de voz de inteligencia artificial que se usa actualmente para estafar a la gente con dinero.
Otro compromiso asumido por el grupo es compartir información sobre la gestión de riesgos de IA en toda la industria y con los gobiernos, la sociedad civil y la academia. Además, se comprometen a informar las capacidades, limitaciones y áreas de uso apropiado e inapropiado de sus sistemas de IA. Según la Casa Blanca, el informe cubriría «tanto los riesgos de seguridad como los riesgos sociales, como los efectos sobre la equidad y el sesgo». Encontrarás una lista completa de otros compromisos que puedes consultar en la nota de prensa.
Notablemente ausente del grupo estaba Apple. En los últimos días, se ha revelado que Apple está trabajando en su propio competidor ChatGPT llamado «Apple GPT». Aunque este es solo un compromiso voluntario, la decisión de Apple de saltarse esta reunión pone en duda su posición sobre la seguridad de la IA. A medida que el desarrollo de la IA continúa a buen ritmo y sus peligros se vuelven más reales, la ausencia de Apple hoy fue ruidosa.
