🎙 Episodio 64. Grandes Éxitos de la IA (Industria y política)
En el episodio de hoy vamos a ver cómo ha movido el mundo la Inteligencia Artificial en estos últimos meses.
Desde la aparición de ChatGPT y la IA volviéndose mainstream hay muchísimo movimiento que va más allá de lo técnico.
Nvidia: Líder en la fabricación de GPUs
Una clara beneficiaria de este auge de la Inteligencia Artificial durante 2023 es la empresa NVIDIA, fabricante de GPUs.
Estos chips son necesarios para poder entrenar modelos de Deep Learning de manera más rápida y, evidentemente, son esenciales para entrenar grandes modelos de lenguaje.
Con el auge de la IA, NVIDIA no para de vender GPUs y de proveerlas a los centros de datos de sus socios. Estos centros alquilan este poder de cálculo y ya están reservadísimos hasta principios del año que viene.
Anthropic entrena sus modelos en un clúster de decenas de miles de GPUs de NVIDIA.
Cohere entrena sus modelos en clústers de más de 16,000 tarjetas H100 de NVIDIA.
Las empresas que entrenan modelos se enorgullecen de trabajar con NVIDIA y entrenar sus modelos con estas GPUs.
¿Qué más podría querer una empresa como NVIDIA que el modelo de lenguaje de moda se haya entrenado usando sus GPUs?
Esto crea un efecto bola de nieve que hace que cualquiera con recursos quiera entrar en la carrera de la Inteligencia Artificial y montar su propio supercomputador repleto de GPUs de NVIDIA.
Emiratos Árabes y Arabia Saudí también quieren entrar en la carrera de la IA
Desde los Emiratos Árabes Unidos y Arabia Saudí están comprando miles de chips de NVIDIA para unirse a esta carrera por el modelo de IA más poderoso, controlando así su propio poder de computación.
El modelo Falcon, en sus distintas versiones, proviene del Instituto de Innovación Tecnológica de los Emiratos Árabes Unidos.
Los investigadores que trabajan en estos modelos en los Emiratos son principalmente chinos que no pueden acceder a Estados Unidos, ya que este país está intentando frenar el avance de la Inteligencia Artificial en China.
EEUU intenta dejar a China en la carrera de la IA
Esto incluye no solo restringir el acceso de ciudadanos chinos a universidades americanas, sino también limitar la cantidad de chips que NVIDIA exporta al gigante asiático.
Históricamente, China ha representado el 20-25% de la facturación de NVIDIA.
Sin embargo, a mediados del año pasado, el gobierno americano añadió las GPUs A100 y H100 al listado de control de exportaciones, impidiendo que las empresas chinas accedan a estos chips.
NVIDIA, en respuesta, empezó a desarrollar los chips A800 y H800, que tienen un rendimiento justo por debajo del límite establecido por la normativa que les impide exportar a China.
Sin embargo, el gobierno americano ha manifestado su intención de revisar los controles de exportación para incluir también el chip A800 en la lista de prohibiciones.
Ante esta perspectiva, empresas chinas como ByteDance (TikTok) y Baidu ya han realizado pedidos de más de mil millones de dólares en GPUs de la serie 800 de NVIDIA, anticipándose a futuras restricciones.
Estrategias de China Frente a las Limitaciones de Importación
Además, China ha prohibido el uso de ciertos chips americanos a proveedores locales y también ha prohibido la exportación de galio y germanio, materiales necesarios para componentes de paneles solares y coches eléctricos, entre otras cosas.
Los clústeres de GPUs más grandes del mundo 🌏
Mientras tanto, se siguen construyendo clústers de GPUs en todo el mundo para entrenar esos grandes modelos de lenguaje y permanecer en la carrera de la IA.
Estos son los clústers de GPUs NVIDIA A100 más grandes del mundo:
Meta tiene el clúster más grande con unas 16,000 GPUs A100 de NVIDIA en su nube privada y unas 5,000 en la nube pública.
La nube pública es ofrecida por proveedores como AWS, Microsoft Azure y Google Cloud.
Tesla, con el segundo clúster más grande, está compuesto de unas 16,000 GPUs, y en tercera posición está el clúster Leonardo con 13,000 GPUs de NVIDIA al servicio de la Unión Europea.
Sin embargo, el clúster Leonardo no está exclusivamente dedicado al desarrollo de la Inteligencia Artificial sino que se comparte para otros tipos de investigación.
Tesla se está tomando muy en serio el tema de los coches autónomos, siendo capaz de entrenar redes neuronales en sus propios centros de datos y ha duplicado el número de GPUs en su clúster desde mediados del año pasado.
Por otro lado, en los planes de los gobiernos aparecen clústers de computación públicos para investigación.
Estos son los clústers de GPUs NVIDIA H100 más grandes del mundo:
El acceso a los datos: El combustible de la IA
Es importante el poder de computación, pero también lo son los datos para entrenar modelos de Inteligencia Artificial potentes.
OpenAI ha firmado acuerdos con Associated Press y Shutterstock para tener acceso a historias de prensa desde 1985 y a librerías de imágenes, video y música, respectivamente, para entrenar nuevos LLMs y versiones mejoradas de DALL·E.
Además, Shutterstock también ha firmado un acuerdo con Meta para el acceso a sus librerías de imágenes, vídeo y música.
Por otro lado, Getty Images, competidor directo de Shutterstock, ha adoptado una postura contraria a la IA generativa, demandando a Stability AI por violación de derechos de autor.
¿Se acaban los datos?
El creciente impulso hacia la entrenamiento de modelos más grandes implica una mayor necesidad de datos. Investigaciones de la empresa Epoch AI sugieren que, al ritmo actual, nos quedaremos sin datos generados por humanos para entrenar modelos de IA entre 2030 y 2050.
Aunque esto no considera la posibilidad de transcribir audios y videos para su uso en entrenamiento.
Cosa que ya se está haciendo.
Impacto de la IA en la industria en 2023
Nuevos negocios alrededor de la Inteligencia Artificial
Nuevos negocios y oportunidades están surgiendo, como empresas de servicios de etiquetado de datasets y el servicio de dar feedback humano a los modelos de lenguaje con RLHF.
El ecosistema de la IA generativa ha crecido enormemente durante este 2023.
Por ejemplo, la empresa francesa Photoroom, especializada en edición de imágenes, duplicó su facturación en 6 meses tras integrar la IA generativa en febrero.
Además, según Discord, unos 30 millones de personas utilizan apps con IA en sus servidores cada mes.
Retención de Usuarios en Aplicaciones de IA
Aunque las aplicaciones de IA generativa crecen rápidamente, su retención de usuarios es menor en comparación con aplicaciones tradicionales como YouTube o Instagram.
Por ejemplo, ChatGPT tiene una retención de usuarios del 56%, mientras que aplicaciones tradicionales como WhatsApp, Instagram o YouTube tienen una retención mediana del 63%.
Las primeras Plataformas víctimas de la IA
Stack Overflow ha sufrido una notable disminución en tráfico desde la aparición de GitHub Copilot y ChatGPT, pasando de 18-20 millones de vistas mensuales en la primavera de 2022 a 10 millones en julio de 2023.
Por ejemplo, la empresa de educación Chegg, que se enfoca en mejorar el aprendizaje pues ofertando exámenes para practicar perdió casi la mitad de su valor de mercado casi de la noche a la mañana porque los estudiantes preferían preguntarle a ChatGPT.
No les quedó otra que asociarse con OpenAI para integrar GPT-4 dentro de su servicio.
Y aún así, no han conseguido remontar.
Algunas empresas lo están viendo muy negro en este año de la IA generativa como Stack Overflow o Chegg pero por otro lado, hay otras empresas a las que les llueve la inversión.
Inversión en Startups de IA Generativa en 2023
La inversión en capital de riesgo en empresas de IA generativa se ha multiplicado por 4, alcanzando los 18 mil millones de dólares en 2023, con empresas como OpenAI, Anthropic, Inflection, Cohere, Hugging Face y Runway recibiendo inversiones millonarias.
¿Cambios en el Mercado Laboral?
Sin embargo, estudios de la OCDE y OpenAI anticipan pérdidas masivas de empleo en campos cualificados como derecho, medicina y finanzas, con hasta el 27% de los trabajos en riesgo.
Por otro lado, hay indicios de que la IA puede nivelar habilidades, mejorando significativamente el rendimiento en diversas tareas. Esto es especialmente notable en campos como el derecho, atención al cliente y escritura creativa.
En estos campos, los trabajadores con peor rendimiento pre-ChatGPT mejoran hasta colocarse a la altura de los más productivos, de manera que las habilidades se nivelan.
En respuesta a la potencial destrucción de empleos, figuras destacadas de grandes empresas de IA como Sam Altman de OpenAI, Demis Hassabis de Google DeepMind o Mustafa Suleyman de Inflection, apoyan la idea de un Ingreso Básico Universal frente a los cambios laborales impulsados por la IA.
Os dejo el enlace al informe sobre el estado de la Inteligencia Artificial en 2023.
Espero que el episodio de hoy os sea de provecho y que aprendáis algo de valor.
Si es así, no olvidéis dejar una valoración de 5 estrellas del podcast en Apple podcasts, en Spotify, en Ivoox o donde quiera que escuchéis el podcast.
Recordad que si tenéis cualquier duda o pregunta podéis contactar conmigo a través del formulario de contacto o podemos seguir la conversación en Twitter.
Muchas gracias por estar ahí y os espero en el próximo episodio de Un Podcast Ninja sobre Big Data.