Regulación de la IA y el debate en el senado de EEUU
¿Amistades peligrosas o paso necesaorio?
Sam Altman, CEO de OpenAI compareció la semana pasada ante el comité de privacidad y tecnología del Senado de los EEUU para ser interrogado sobre el funcionamiento, beneficios y riesgos asociados a la IA. Esta comparecencia no tiene nada que ver con la que todos recordamos de Mark Zuckerberg, pues el tono y el ambiente era totalmente diferente.
Durante la reciente audiencia del Senado sobre la regulación de la IA, el CEO de OpenAI, Sam Altman, y otros líderes de la industria expresaron su acuerdo con la necesidad de regulación.
El acuerdo entre los líderes de la industria y los políticos sobre la regulación de la IA es algo positivo. ¡Pero ojito! traspasar la responsabilidad de redactar las reglas a las empresas que se beneficiarán de ellas llevará SEGURO a un conflicto de intereses.
La directora del AI Now Insitute, Sarah Myers West, y otros críticos expresaron su preocupación por el sistema de licencias propuesto, temiendo que se convierta en un mero trámite superficial y que las empresas no enfrenten ninguna responsabilidad real cuando los sistemas de IA fallen. También se planteó la amenaza potencial a la competencia que podría representar la regulación.
Es un punto que se me hace difícil de ver. Las licencias están bien como idea, pero en la práctica beneficiarán a las grandes compañías, frenarán el desarrollo e incentivarán seguramente que exista un “mercado negro” por detrás. Es decir, no estamos hablando de fabricar una máquina, estamos hablando de software.
Margaret Mitchell, ex empleada de Google y actual científica jefa de ética en Hugging Face, es una defensora de alguna forma de auto-regulación junto con la regulación desde arriba. Sugiere que las buenas regulaciones dependen de establecer estándares que las empresas no puedan manipular fácilmente a su favor. No obstante, Mitchell mostró su desconfianza hacia las grandes empresas de tecnología, afirmando que no se ven a sí mismas como responsables de respetar a las personas.
El enfoque de Mitchell en una combinación de auto-regulación y regulación desde arriba es interesante y podría ser un camino a seguir. Sin embargo, su escepticismo hacia las grandes empresas de tecnología refleja una preocupación legítima: ya sabemos que estas empresas tienen un vergonzoso historial en actuar en su propio interés, y casi siempre en detrimento del interés público.
A pesar de las propuestas de regulación, los expertos advierten que la atención se centra demasiado en los daños futuros de la IA, en lugar de los problemas conocidos que la IA ya posibilita. La propuesta del Congreso se compara de manera desfavorable con el próximo Acta de la IA de la UE, que clasifica los sistemas de IA según su nivel de riesgo y establece requisitos variados para salvaguardas y protección de datos.
Esto sí que es problemático. Ya se pueden falsear imágenes de muchísimas maneras, ya se pueden clonar voces. Pueden llamar a un familiar haciéndose pasar por cualquier otra persona para chantajearte y extorsionarte. Esto es lo que necesita regulación de algún modo. Veremos que en cuanto empiecen los problemas, vendrán las prisas. Si no… al tiempo.
⚠️ ¿Te mola el contenido? ⚠️
No te lo quedes para ti. ¡Compártelo y ayuda a crecer esta newsletter! Te lo agradecerá eternamente (jurao!).
Noticias breves para estar al día.
💸 Elon Musk, co-fundador de OpenAI, expresó en una entrevista que su salida de la organización fue un error. Su inversión inicial de 50 millones de dólares no le garantizó el control que buscaba, lo que finalmente llevó a su separación
A ver, Elon Musk tonto no es. Sabe que ha perdido la oportunidad de estar metido de lleno y liderando como con Tesla o SpaceX una de las áreas de innovación más importantes de la actualidad. La realidad es que no sabemos cómo hubiera sido la actual OpenAI con Musk dentro de la organización.
🎨 Photoshop ha muerto. Vale, me he pasado, es puro “clicbait” este titular, pero la realidad es que la capacidad de las IAs de manipular imágenes sigue creciendo de forma desorbitada. Mirad como este modelo llamado DragGAN puede mover objetos como si estuvieran en 3D y adaptando posiciones naturales según el elemento que se mueva.
Vale la pena que veas al menos este video o entres en este enlace a la web de los autores del modelo y descubras las capacidades del mismo. Alucinarás. Por otro lado, con imágenes cada vez manipulables de forma más sencilla, ¿En qué momento dejaremos de creer lo que veamos a través de una pantalla? Queda poco…
🍏 Apple y la WWDC 2023. Al igual que Google hace un par de semanas, Apple tiene a principios de junio su keynote enfocada a desarrolladores donde se esperan especialmente dos cosas. Presentación de sus gafas de AR y alguna novedad alrededor de la IA.
Claramente Apple no ha dado ningún paso en la batalla de la IA. Realmente no es que vaya por detrás. Es que directamente no va. Es raro. No creo que Apple deje pasar esto y pronto se meterá en “el fregao”.
IA tool útil del día
Siempre me ha gustado la NBA. Siempre me han gustado los datos. Siempre he soñado en poder preguntar directamente a una base de datos cualquier tipo de información sobre la mejor liga de baloncesto del mundo Me hubiera dado igual hacerlo en SQL. Esto ahora se posible con HoopsGPT. Quiero esto para el mundo del fútbol YA.
Tuit del día
¿Quieres recibir esta news todas las mañanas en tu buzón?
Si crees que a alguien le puede interesar, reenvíale este email.