NVIDIA узоқ контекстли сунъий интеллект учун янги GPU тақдим этди
NVIDIA узоқ контекстли инференс — яъни катта ҳажмдаги маълумотни узлуксиз қайта ишлаш имконига эга янги график процессорини тақдим этди, деб TechCrunch хабар берди. Янги чип GB200 деб номланган бўлиб, катта тилли моделлар (LLM) ва генератив ИИ учун мўлжалланган.
GB200 чипи 1 миллион токенгача контекстни қўллаб-қувватлай олади. Бу эса ИИ моделларига кўпроқ контекстдаги маълумотлар билан узоқ мулоқотни сақлаш ва мантиқий давом эттириш имконини беради. Бундай имкониятлар айниқса код, ҳужжат ёки катта ҳажмдаги матнлар билан ишлашда муҳим ҳисобланади.
NVIDIA ушбу чипни “GH200 Grace Hopper Superchip” платформаси асосида ишлаб чиққан. Ушбу архитектура орқали катта LLM моделларини самарали ишлатиш, жадал инференс ва энергия тежамкорликни таъминлаш мумкин. GB200 билан ишлайдиган серверлар 2026 йилда бозорга чиқиши кутилмоқда.