Sundar Pichai otevírá informace o „nepřijatelných“ chybách Gemini a o tom, jak se společnost snaží opravit

V úterý, počátkem tohoto týdne, Sundar Pichai poslal interní zprávu o tom, jak se Googlu podařilo udělat chybu s odpověďmi Gemini a generováním obrázků. V e-mailu generální ředitel všem řekl, že se budou muset „zaměřit na to, na čem nejvíce záleží: na vytváření užitečných produktů, které si zaslouží důvěru našich uživatelů“.

Blíženci může chvíli trvat, než se vrátí ke své bývalé slávě, ale Sundar Pichai slibuje nápravu

Chci vyřešit nedávné problémy s problematickými textovými a obrázkovými odpověďmi v aplikaci Gemini (dříve Bard). Vím, že některé z jeho odpovědí urazily naše uživatele a ukázaly zaujatost – aby bylo jasno, je to naprosto nepřijatelné a my jsme to špatně pochopili.

Pichai dále hovořil o hlavním poslání společnosti a řekl následující:

Naše poslání uspořádat světové informace a učinit je všeobecně přístupnými a užitečnými je posvátné. Vždy jsme se snažili poskytnout uživatelům užitečné, přesné a nezkreslené informace v našich produktech. Lidé jim proto věří. To musí být náš přístup ke všem našim produktům, včetně nově vznikajících Al produktů.

Budeme řídit jasný soubor akcí, včetně strukturálních změn, aktualizovaných pokynů k produktu, vylepšených procesů spouštění, robustních hodnocení a red-teamingu a technických doporučení. To vše prověřujeme a provedeme potřebné změny.

Pro ty, kteří nevědí, Blíženci se ocitli v horkých vodách poté, co skončili generováním nevhodných snímků. Poté Google tvrdil, že vypíná generování obrázků , pokud v nich budou lidé. Účel tohoto vypnutí byl jednoduchý – Google chtěl přijít s vhodnou opravou, aby model mohl fungovat na 100 % bez problémů. Pichai dokonce mluvil o tom, jak společnost neúnavně pracuje na řešení problémů.

Již nyní jsme svědky podstatného zlepšení u široké řady výzev. Žádný Al není dokonalý, zvláště v této nově se rozvíjející fázi rozvoje odvětví, ale víme, že laťka je pro nás vysoko a budeme se na ní držet, jak dlouho to bude trvat. A my zkontrolujeme, co se stalo, a zajistíme, že to opravíme ve velkém měřítku.

Pokud jde o pokrok, o kterém Pichai mluví, budeme muset počkat a uvidíme, jak to ve skutečnosti pokračuje. V době psaní tohoto článku je více než bezpečné předpokládat, že Google přebírá odpovědnost za vše, co se s Blíženci pokazilo. Zároveň je však důležité poznamenat, že sledovat to a vyhýbat se tomu by nebylo snadné, protože umělá inteligence se neustále učí a má tendenci občas halucinovat nebo se ocitnout v potížích.

Přesto je lepší doufat, že jakmile se Blíženci vrátí ke své bývalé slávě, takové chyby nebudou tak časté, ale zase, když vezmeme v úvahu, že jde o umělou inteligenci, na konci dne mu musíme dát trochu vydechnout. pokoj, místnost.

Zdroj zpráv: Semafor