Світ електроніки зараз дуже динамічний через постійне зростання цін та численні зміни на ринку. Багато зростання вартості спричинене дефіцитом чіпів, підсиленим активним використанням штучного інтелекту, що підвищує ціну оперативної пам’яті і робить комп’ютери дорожчими. Також дорожчають ігрові консолі, смарт-телевізори та інші гаджети. Проте з’явилася потенційна “рятівна” технологія: Google оприлюднив нову систему стиснення, яка дозволить ШІ ефективніше використовувати оперативну пам’ять, знижуючи потребу в ній для великих центрів обробки даних.
Метью Прінс, генеральний директор Cloudflare, назвав алгоритм “DeepSeek від Google” у X, натякаючи на успіх DeepSeek AI у прискоренні навчання великих мовних моделей. Новий алгоритм, що отримав назву TurboQuant, обіцяє підвищити ефективність роботи ШІ, але поки що він перебуває на етапі досліджень і не впроваджений у комерційні центри обробки даних.
Хоча Google стверджує, що TurboQuant покращить використання оперативної пам’яті, реальний ефект на споживчий ринок навряд чи буде відчутним у короткостроковій перспективі. Проблема полягає в тому, що кеш ключ-значення (KV), який зберігає контекст для моделей ШІ, залишається вузьким місцем. TurboQuant стискає інформацію в кеші, дозволяючи зберігати та обробляти більше даних без необхідності розширювати кеш, але додавання нових моделей і функцій ШІ все одно буде вимагати великої кількості оперативної пам’яті.
Уявіть, що ШІ зберігає весь контекст взаємодій з користувачем як зображення у папці. Ці зображення потім кешуються в KV. З ростом обсягу даних аналіз стає важчим. TurboQuant стискає ці “зображення” та структурує їх для легшої обробки, що дозволяє ефективніше використовувати існуючу оперативну пам’ять.
Завдяки TurboQuant попит на оперативну пам’ять у центрах обробки даних може трохи знизитися, що потенційно зменшить ціни. Проте гарантії немає: компанії продовжують створювати нові потужні моделі ШІ та запускати нові функції, що підтримує високий попит на оперативну пам’ять. KV-кеш зростає разом із поширенням ШІ серед користувачів, і це зберігає тиск на ринок.
Незважаючи на це, поява TurboQuant демонструє, що Google шукає способи оптимізації та може частково полегшити дефіцит оперативної пам’яті. Однак наразі це не можна вважати постійним рішенням, особливо коли попит і пропозиція залишаються сильно дисбалансованими.