Обложка канала

Технологии, медиа и общество

45780 @brodetsky

Канал о новостях из мира медиа и информационных технологий и исследованиях социальных сетей.

Технологии, медиа и общество

3 года назад
Открыть в
Інший приклад economy of scale та вертикальної інтеграції — розробка власного заліза для хмарних обчислень від Microsoft. Наразі з усього AI-стеку найбільше заробляють постачальники інфраструктури. За оцінками a16z, до 20% виручки від Gen AI продуктів осідає у хмарних провайдерів. Розробники великих моделей поки збиткові (для прикладу, аналітики оцінюють кости OpenAI на підтримку ChatGPT в $0,7M/день). Як вони планують ставати прибутковими в умовах комодитизації моделей — окреме цікаве питання, про яке ми поговоримо пізніше. Тим часом хмарні провайдери витрачають купу грошей на купівлю заліза у NVIDIA, якого все одно не вистачає. Тому в Microsoft прискорили роботу над власним чіпом для хмарних обчислень, який допоможе компанії знизити кости на обслуговування серверів. Саме на хмарній інфрастуктурі Microsoft Azure працюють моделі OpenAI. В 2019 Microsoft інвестував $1B в OpenAI, за умовами угоди ставши ексклюзивним постачальником хмарних потужностей для OpenAI. Значна частина інвестиції була надана кредитами на Azure. Таку ж тактику застосовує і Google, який на схожих умовах інвестував $300M в конкурента OpenAI — Anthropic, писав про них детальніше. Аналітики оцінюють кости на розробку власного чіпа в $100M на рік — цілком прийнятно для Microsoft. Виготовляти все будуть на заводах TSMC за 5-нм техпроцесом. Очікується, що чіпи будуть в продакшні уже наступного року. Хайп навколо Gen AI з часом спаде, а Microsoft з цим жити. Компанія планує інтегрувати мовні моделі в свої офісні продукти, якими користуються сотні мільйонів користувачів. Подивіться ефектне демо. За оцінками аналітиків, при діючій схемі постачання заліза підтримка інфраструктури для власних AI-продуктів може обійтись компанії в десятки мільярдів щорічно. На такому масштабі є сенс робити власні чіпи.
Microsoft Readies AI Chip as Machine Learning Costs Surge

After placing an early bet on OpenAI, the creator of ChatGPT, Microsoft has another secret weapon in its arsenal: its own artificial intelligence chip for powering the large-language models responsible for understanding and generating humanlike language. The software giant has been developing ...

The Information