La semana anterior surgió la noticia de una demanda de Elon Musk contra OpenAI, la creadora del tan famoso Chatbot de Inteligencia Artificial Generativa.
En esta demanda se centra en cuatro cosas:
- Musk cofundó y financió substancialmente OpenAI en sus primeros años, bajo un “Acuerdo Fundacional” de que sería una organización sin fines de lucro desarrollando Inteligencia Artificial General (AGI) para el beneficio de la humanidad, no para una empresa con fines de lucro buscando maximizar ganancias.
- OpenAI sería de código abierto y no mantendría su tecnología cerrada y secreta por razones comerciales propietarias.
- En 2023, OpenAI violó flagrantemente este Acuerdo Fundacional al licenciar su modelo AGI GPT-4 exclusivamente a Microsoft con fines comerciales, mantener GPT-4 cerrado y en secreto, y permitir que Microsoft ejerza control sobre su Junta Directiva sin fines de lucro.
No es una cuestión menor traer a la mesa los aspectos relacionados a la confidencialidad y el monopolio con Microsoft. Desde la década de los 90’s se enfrentó a una demanda en Estados Unidos por integrar el navegador Explorer con Windows 95 y 98. De la misma manera ha enfrentado múltiples demandas en cuestiones de invasión a la privacidad y en varias ha salido mal parado.
Qué riesgos se pueden presentar con esa relación entre Microsoft y OpenAI?
Existen varios riesgos que deben tomarse en serio, algunos de ellos podemos citar los siguientes:
- Concentración de poder de IA: Si una tecnología tan poderosa como la AGI queda bajo el control exclusivo de una sola gran corporación con fines de lucro como Microsoft, podría llevar a una concentración excesiva de poder tecnológico y económico. Esto socavaría la visión original de OpenAI de que la AGI debería desarrollarse de manera abierta para beneficio de toda la humanidad.
- Falta de transparencia: Al mantener los detalles de GPT-4 en secreto y no publicar investigaciones sobre su arquitectura y capacidades, se vuelve muy difícil para la comunidad científica y el público entender y auditar esta poderosa tecnología. Esto plantea riesgos de un desarrollo de IA no regulado y opaco.
- Motivos de lucro sobre seguridad: Una entidad con fines de lucro como Microsoft podría priorizar la comercialización y monetización rápida de la AGI sobre consideraciones adecuadas de seguridad, ética y beneficio social a largo plazo. Los incentivos financieros podrían conducir a un despliegue apresurado e imprudente.
- Socavando la investigación de IA de beneficio público: La capacidad de OpenAI para cumplir su misión original como un contrapeso de investigación de IA para el bien público se ve comprometida si se convierte en un brazo de investigación con fines de lucro de una gran tecnológica. Esto podría reducir la investigación diversa y de beneficio público necesaria en un campo tan importante.
- Confianza pública y gobernanza de la IA: Alegaciones de que OpenAI traicionó sus principios fundacionales y sucumbió a presiones corporativas podrían socavar la confianza pública en la buena gobernanza de la IA. Esto podría hacer más difícil asegurar el apoyo público y político para un desarrollo responsable de la IA.
Lo que busca Elon Musk es que ChatGPT sea considerado Inteligencia Artificial General, no Generativa como actualmente es,quedando así fuera del alcance de la licencia de Microsoft para OpenAI
De la misma manera cómo en los 90’s fuimos testigos de la Guerra de las Colas, enfrentando a los mayores fabricantes de soda, ¿hoy estaremos siendo testigos de la guerra de las IA’s?
Francisco Hernandez Chief AIR Officer – Odin Inteligencia Artificial Regenerativa Author of “The AIR Revolution”LinkedIn Top Voice on AI & Future of Work
