AI, která zahýbala světem
Média rozvířilo počátkem roku sdělení čínské firmy DeepSeek AI, že její LLM (large language model) nazvaný DeepSeek R1, je téměř stejně efektivní jako ChatGPT od OpenAI. Navíc byl vytrénován za velmi nízkých nákladů a na slabším hardware.
V reakci na toto oznámení klesly během dne akcie velkých technologických firem včetně samotné OpenAI. Důvodem bylo, jak navenek vypadá, že DeepSeek AI dokázala vytvořit výkonný model s velmi nízkými náklady, což je do jisté míry pravda.
Pro zjednodušení se podíváme na porovnání obou firem. Pro nasazení AI jako služby jsou zapotřebí tokeny, tedy platidlo pro jednotlivé akce, které oba modely nabízejí za určitý objem USD za milion tokenů (rozdílná je cena za vstup a výstup). Cena je pro zájemce významným prvkem, který hraje roli pří výběru modelu. Obě firmy mají více modelů, postavíme-li ale proti sobě srovnatelné varianty, ukáže stav věcí následující tabulka.
Druhým faktorem je efektivita (úspěšnost, správnost odpovědí). Srovnání modelů AI je v tomto ohledu velmi náročné a vydalo by na mnoho vědeckých prací, v principu však záleží na zaměření LLM a na sestavě otázek a jejich vyhodnocení. Podle výzkumů lze říci, že oba modely jsou si výsledky velmi podobné, pouze v rychlosti DeepSeek R1 zaostává. Nicméně při faktoru mnohem nižší ceny jde o akceptovatelnou vlastnost.
Další otázkou je tzv. destilace, což v oboru LLM označuje proces využití existujícího modelu k tréninku nového, který pak sdílí většinu schopností původního modelu a umožňuje např. jeho specializaci. Jsou tu otazníky vzhledem k tomu, že i DeepSeek AI má svá nepominutelná omezení, např., že spadá pod čínskou legislativu se vším, co k tomu náleží, což z evropského pohledu znamená cenzuru.
Otázkou tedy je, jak v budoucnu bude model „odladěn“ a jak moc bude možné jeho výstupům věřit (což je však problém AI obecně). Jak vše dopadne skutečně, ukáže až (blízká) budoucnost.
Alexandr Vasilenko
4
