Opera nyní poprvé umožní uživatelům spouštět LLM lokálně

Opera nedávno přidala novou funkci, která umožňuje uživatelům Opery One stahovat a používat velké jazykové modely (LLM) na jejich osobních počítačích. Tato funkce je přístupná uživatelům, kteří dostávají aktualizace vývojářských streamů, a poskytuje přístup k více než 150 modelům z různých rodin, jako jsou Llama od Meta, Gemma od Googlu, Vicuna, Mistral AI a další.

Podle Krystiana Kolondry, EVP pro prohlížeče a hry v Opeře, uvedl :

„Zavedení Local LLM tímto způsobem umožňuje Opeře začít zkoumat způsoby budování zkušeností a know-how v rychle se rozvíjejícím místním prostoru AI.“

Opera označila tyto nejnovější přírůstky jako součást svého programu „AI Feature Drops Program“ a slibuje, že uživatelská data zůstanou uložena na jejich zařízení, což jim umožní využívat generativní AI bez požadavku na odesílání jakýchkoli dat na server. Společnost využívá open-source framework Ollama k provádění těchto modelů přímo na počítačích uživatelů. Každá verze modelů zabírá v zařízení 2–10 GB úložného prostoru.

Opera se zaváděním těchto nových funkcí velmi snaží připojit k trendu využívání technologie AI. Nejedná se však o první případ, kdy prohlížeč obsahuje AI, jak bylo vidět při vydání Opery One v loňském roce. Tento krok upevnil cíl společnosti stát se předním prohlížečem zaměřeným na AI, což bylo dále demonstrováno uvedením jejich asistenta AI, Aria. Očekává se, že tyto aktualizace nabídnou odlišné a vynalézavé funkce, které pomohou Opeře zvýšit její podíl na trhu. Podle zprávy Statcounter z prosince 2023 získala Opera 3,8% podíl na trhu a zařadila se mezi 5 nejlepších stolních prohlížečů.

Chcete-li zažít tuto novou funkci v Opeře, jednoduše aktualizujte na nejnovější verzi Opera Developer a podle těchto pokynů povolte místní LLM na vašem zařízení. To umožní počítači uživatele používat místní LLM místo asistentky AI Opery Aria, pokud uživatel nezahájí chat s Aria nebo ji znovu neaktivuje.