Od spuštění ChatGPT, nepamatuji si schůzku s potenciálním zákazníkem nebo zákazníkem, kde by se mě nezeptali, jak mohou využít generativní AI pro své podnikání. Od interní efektivity a produktivity až po externí produkty a služby se společnosti předhánějí v implementaci generativních technologií umělé inteligence ve všech odvětvích ekonomiky.
Zatímco GenAI je stále v počátcích, jeho možnosti se rychle rozšiřují – od vertikálního vyhledávání, přes úpravu fotografií až po asistenty psaní, společným tématem je využití konverzačních rozhraní, aby byl software přístupnější a výkonnější. Chatboti, nyní přejmenovaní na „kopiloti“ a „asistenti“, jsou opět šílenstvím, a zatímco se začíná objevovat soubor osvědčených postupů, krokem 1 při vývoji chatbota je problém vyřešit a začít v malém.
Kopilot je orchestrátor, který pomáhá uživateli dokončit mnoho různých úkolů prostřednictvím bezplatného textového rozhraní. Existuje nekonečné množství možných vstupních výzev a všechny by měly být zpracovány elegantně a bezpečně. Spíše než se pouštět do řešení každého úkolu a riskovat, že nesplní očekávání uživatelů, měli by vývojáři začít tím, že opravdu dobře vyřeší jeden úkol a budou se učit.
Ve společnosti AlphaSense jsme se například zaměřili na shrnutí výdělků jako na náš první samostatný úkol, dobře obsáhlý, ale vysoce hodnotný úkol pro naši zákaznickou základnu, který se také dobře hodí ke stávajícím pracovním postupům v produktu. Během toho jsme získali informace o vývoji LLM, volbě modelu, generování školicích dat, generování rozšířeného vyhledávání a návrhu uživatelské zkušenosti, které umožnily rozšíření o otevřený chat.
Rozvoj LLM: Výběr otevřené nebo uzavřené
Na začátku roku 2023 byl žebříček výkonnosti LLM jasný: OpenAI byla napřed s GPT-4, ale dobře kapitalizovaní konkurenti jako Anthropic a Google byli odhodláni dohnat je. Open source sliboval jiskry, ale výkon při úlohách generování textu nebyl konkurenceschopný s uzavřenými modely.
Chcete-li vyvinout vysoce výkonný LLM, zavázejte se k vytvoření nejlepší datové sady na světě pro daný úkol.
Moje zkušenost s umělou inteligencí za poslední dekádu mě přivedla k přesvědčení, že open source zažije zuřivý comeback a přesně to se stalo. Open source komunita zvýšila výkon a zároveň snížila náklady a latenci. LLaMA, Mistral a další modely nabízejí silné základy pro inovace a hlavní poskytovatelé cloudu, jako je Amazon, Google a Microsoft, z velké části přecházejí na přístup od více dodavatelů, včetně podpory a rozšiřování open source.
I když open source nedosáhl v publikovaných výkonnostních benchmarcích, jedná se jednoznačně o skokové uzavřené modely v sadě kompromisů, které musí každý vývojář udělat, když uvádí produkt do reálného světa. 5 S při výběru modelu může vývojářům pomoci rozhodnout se, který typ modelu je pro ně ten pravý: