Brockman de OpenAI predice restricciones persistentes de capacidad computacional de la IA

El presidente de OpenAI, Greg Brockman, predijo que las limitaciones de capacidad de cómputo persistirán en la industria de la IA durante un foro celebrado en la ciudad de Nueva York el día 23. Brockman afirmó que las empresas se enfrentan a decisiones difíciles sobre con qué entrenar modelos y cuánto escalar los productos debido a las continuas escaseces de cómputo. Las empresas de IA, incluidas OpenAI y Anthropic, junto con grandes tecnológicas como Microsoft, Amazon y Meta, están luchando para satisfacer la creciente demanda de IA mientras, al mismo tiempo, entrenan nuevos modelos y atienden a clientes, lo que requiere un equipamiento computacional masivo como las GPU NVIDIA y un gasto continuado elevado en centros de datos.

De acuerdo con Yahoo Finance el día 25 (hora local), Brockman dijo en el foro del día 23: «Mi fuerte predicción es que, pase lo que pase, seguiremos estando dentro de este fenómeno de escasez de cómputo. Ahora mismo tenemos que tomar decisiones difíciles sobre con qué entrenamos realmente los modelos y cuánto escalamos los productos».

Las grandes empresas tecnológicas luchan con la demanda de cómputo para IA

Las empresas de IA, como OpenAI y Anthropic, junto con las grandes firmas tecnológicas, incluidas Microsoft, Amazon y Meta, están experimentando dificultades para atender la demanda explosiva de IA mientras equilibran el entrenamiento de nuevos modelos de IA y la provisión de servicio al cliente. Esto requiere equipamiento de cómputo a gran escala, como las GPU NVIDIA. A pesar del gasto masivo continuado en centros de datos, las empresas tienen dificultades para satisfacer la demanda.

Brockman explicó: «Ocasionalmente, al ver que la capacidad de OpenAI crece rápidamente, la gente piensa que habrá un excedente de capacidad de cómputo, pero a medida que la compañía desarrolla nuevos modelos y nuevos métodos de uso, la demanda aumenta aún más». Agregó: «Creo que esta situación continuará hacia adelante porque estamos transitando hacia una economía impulsada por el cómputo».

Alphabet anuncia contratos de capacidad de terceros y acuerdo Google-SpaceX

En el anuncio de resultados de Q2 de Alphabet del día 22, el director financiero de la compañía anunció que, a pesar de que toda la industria realiza un gasto a gran escala en centros de datos, la empresa contratará con proveedores de terceros para cubrir su capacidad de cómputo en Q3.

Google firmó en junio un contrato de arrendamiento de capacidad de IA con SpaceX por valor de 920 millones de USD al mes.

Brockman rechaza el concepto de maxing de tokens

Brockman descartó el concepto de «token maxing»: usar el cómputo de IA al máximo de capacidad únicamente con fines de exhibición, señalando que los clientes están empezando a ver retorno de la inversión a medida que utilizan el software para mejorar la productividad.

Enfatizó: «Si los clientes usan la IA bien, empezarán a ver retorno de la inversión. Si solo maximizas el uso de tokens, solo obtienes el uso máximo de tokens, pero si maximizas el valor, puedes aplicar estas tecnologías para resolver problemas y obtener beneficios reales».

Preguntas frecuentes

¿Qué predijo Greg Brockman de OpenAI sobre la capacidad de cómputo de la IA?

Greg Brockman predijo en un foro en la ciudad de Nueva York el día 23 que las limitaciones de capacidad de cómputo persistirán en la industria de la IA. Dijo que las empresas seguirán enfrentándose a decisiones difíciles sobre el entrenamiento de modelos y la escalabilidad de productos debido a las escaseces continuas de cómputo.

¿Por qué Google firmó un contrato con SpaceX por capacidad de IA?

Google firmó en junio un contrato de arrendamiento de capacidad de IA con SpaceX por 920 millones de USD al mes. Esto siguió al anuncio del director financiero de Alphabet del día 22 de que la empresa contrataría con proveedores de terceros para cubrir sus necesidades de cómputo en Q3, pese al gasto masivo en centros de datos a nivel de toda la industria.

¿Qué es token maxing y por qué Brockman lo descartó?

Token maxing se refiere a usar el cómputo de IA al máximo de capacidad únicamente con fines de exhibición. Brockman descartó este concepto, afirmando que los clientes deberían centrarse en maximizar el valor más que en el uso de tokens. Subrayó que aplicar tecnologías de IA para resolver problemas y obtener beneficios reales ofrece un retorno de la inversión real, no solo el consumo máximo de tokens.