Según Bloomberg, Microsoft construyó una nueva supercomputadora en su nube Azure como infraestructura para ChatGPT. Se usó para entrenar el modelo de lenguaje ChatGPT y todavía se usa en la operación de ChatGPT.
La supercomputadora consta de decenas de miles de aceleradores Nvidia A100 adecuados para la computación de inteligencia artificial. Construyendo una supercomputadora fuego en la agenda de 2019, cuando Microsoft invierta mil millones de dólares en la start-up OpenAI, que ya está en boca de todos.
Construir una supercomputadora no era barato. Scott Guhtrie, jefe del grupo de nube e inteligencia artificial de Microsoft, estimó que los costos ascendieron a cientos de millones de euros.
La gran cantidad de aceleradores trajo desafíos al proyecto de instalación de la supercomputadora. Microsoft tuvo que descubrir cómo alojarlos y todas las fuentes de alimentación que necesita una supercomputadora, y cómo mantener bajo control la generación de calor y los cortes de energía.
Además, se tuvo que desarrollar un nuevo tipo de software para que la supercomputadora aprovechara toda la potencia, garantizara la fluidez del enorme tráfico de la red, diseñara nuevos tipos de conductos de cables y utilizara varias soluciones de refrigeración diferentes, incluido el uso de aire exterior.
Microsoft acaba de anunciar una importante actualización de su supercomputadora. El gigante corporativo lo amplía con aceleradores Nvidia H100 más nuevos y potentes.
Los aceleradores se aprovechan mediante máquinas virtuales ND H100 v5, y los aceleradores están vinculados a través de NVSwitch y NVLink 3.0, que proporciona un ancho de banda bidireccional de 3,6 terabytes por segundo entre aceleradores en una sola máquina virtual. Cada acelerador individual proporciona un ancho de banda de 400 Gb/s a través de Nvidia Quantum-2 CX7 InfiniBand y conexiones PCIe5 de 64 Gb/s.
La supercomputadora actualizada también utiliza procesadores Intel Xeon de cuarta generación y memoria DDR5-4800 de 16 canales. En el futuro, la supercomputadora se utilizará al menos para acelerar la búsqueda de inteligencia artificial de Bing, en el navegador Edge y en el complejo de aplicaciones Microsoft Dynamics 365.
LEA TAMBIÉN: La búsqueda de estilo ChatGPT significa costos adicionales por el desperdicio de búsqueda, hasta diez veces los costos
Source: Muropaketti.com by muropaketti.com.
*The article has been translated based on the content of Muropaketti.com by muropaketti.com. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!
*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.
*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!
