Řešení problémů je jednou z vrozených schopností lidí. Od našich primitivních dob, kdy naše hlavní životní výzvy nebyly sežrány dravou šelmou, až po současnou dobu, abychom něco dostali rychle domů, kombinujeme svou kreativitu, logické uvažování a inteligenci, abychom přicházeli s řešeními konfliktů. .
Nyní, když jsme svědky geneze AI sentientů, čelíme novým výzvám s ohledem na jejich rozhodovací schopnosti. Zatímco předchozí dekáda byla jen o oslavě možností a potenciálu modelů a aplikací umělé inteligence, tato dekáda jde o krok dále – zpochybnit legitimitu rozhodnutí přijatých těmito modely a vyvodit z nich důvody.
Vzhledem k tomu, že vysvětlitelná umělá inteligence (XAI) získává stále větší význam, je čas diskutovat o klíčovém konceptu při vývoji modelů umělé inteligence, které nazýváme Řetězec myšlenek podněcování. V tomto článku rozsáhle dekódujeme a demystifikujeme, co to znamená a jednoduché pojmy.
Co je to podněcování řetězcem myšlení?
Když je lidská mysl postavena před výzvu nebo složitý problém, přirozeně se je snaží rozdělit na fragmenty menších po sobě jdoucích kroků. Mysl, poháněná logikou, vytváří spojení a simuluje scénáře příčiny a následku, aby se strategizovalo nejlepší možné řešení dané výzvy.
Proces replikace v modelu nebo systému AI je Řetězec nabádání.
Jak název napovídá, model umělé inteligence generuje sérii nebo řetězec logických myšlenek (nebo kroků), aby se dostal k dotazu nebo konfliktu. Představte si to jako podrobné pokyny pro někoho, kdo žádá o cestu do cíle.
Toto je převládající technika nasazená v modelech uvažování OpenAI. Vzhledem k tomu, že jsou navrženi tak, aby přemýšleli, než vygenerují odpověď nebo odpověď, byli schopni prolomit soutěžní zkoušky, které skládají lidé.
[Přečtěte si také: Vše, co potřebujete vědět o LLM]
Výhody řetězení myšlenek
Cokoli, co je založeno na logice, přináší významnou výhodu. Podobně modely trénované na myšlenkovém nabádání nenabízejí pouze přesnost a relevanci, ale také rozmanitou škálu výhod, včetně:
Enhanced řešení problému schopnosti, kde je jejich význam kritický v oblastech, jako je zdravotnictví a finance. LLM, které nasazují myšlenkový řetězec, lépe chápou explicitní a základní výzvy a generují reakce po zvážení různých pravděpodobností a nejhorších scénářů.
Zmírňující předpoklady a výsledky generované z předpokladů, protože modely uplatňují logické a sekvenční myšlení a zpracování k závěru, spíše než k unáhleným závěrům.
Zvýšení všestrannost protože modely nemusí být důsledně trénovány na novém případu použití, protože se řídí logikou, nikoli účelem.
optimalizovaný soudržnost v úkolech zahrnujících vícenásobné/vícedílné odpovědi.
Anatomie fungování techniky podněcování myšlenek
Pokud jste obeznámeni s monolitickou softwarovou architekturou, měli byste vědět, že celá softwarová aplikace je vyvíjena jako jeden koherentní celek. Zjednodušení tak složité daně přinesla metoda architektury mikroslužeb, která zahrnovala rozdělení softwaru na nezávislé služby. To vedlo k rychlejšímu vývoji produktů a také bezproblémové funkčnosti.
Výzva CoT v AI je podobný, kde LLM jsou vedeny řadou sekvenčních procesů uvažování, aby generovaly odpověď. To se provádí prostřednictvím:
- Explicitní instrukce, kde jsou modely přímo instruovány, aby přistupovaly k problému postupně prostřednictvím přímých příkazů.
- Implicitní instrukce je ve svém přístupu jemnější a jemnější. V tomto případě model prochází logikou podobného úkolu a využívá své schopnosti vyvozování a porozumění k replikaci logiky pro prezentované problémy.
- Demonstrativní příklady, kde by model obsahoval postupné uvažování a generoval postupné vhledy k vyřešení problému.
3 Skutečné případy, kdy se používá CoT Prompting
Modely finančního rozhodování
| Multimodální CoT v botech
| Zdravotnická služba
|
|---|---|---|
| V tomto vysoce volatilním sektoru lze výzvy CoT použít k pochopení potenciální finanční trajektorie společnosti, k provádění hodnocení rizik žadatelů o úvěr a další. | Chatboti, které jsou vyvíjeny a nasazovány pro podniky, vyžadují speciální funkce. Musí prokázat schopnosti porozumět různým formátům vstupů. Výzva CoT funguje nejlépe v takových případech, kdy roboti musí kombinovat textové a obrázkové výzvy, aby generovali odpovědi na dotazy. | Od diagnostiky pacientů na základě údajů o zdravotní péči až po generování personalizovaných léčebných plánů pro pacienty může CoT prompting doplňovat cíle zdravotní péče pro kliniky a nemocnice. |
Příklad
Dotaz zákazníka: Na svém účtu jsem si všiml transakce, kterou nepoznávám, moje debetní karta se ztratila a chci nastavit upozornění na transakce na svém účtu. Můžete mi pomoci s těmito problémy?
Krok 1: Identifikujte a kategorizujte problémy
- Nerozpoznaná transakce.
- Ztracená debetní karta.
- Nastavení upozornění na transakce.
Krok 2: Vyřešte nerozpoznanou transakci
Zeptejte se na podrobnosti: Můžete uvést datum a částku transakce?
- Větev 1: Pokud jsou uvedeny podrobnosti:
- Zkontrolujte transakci. V případě podvodu se zeptejte, zda to zákazník chce zpochybnit.
- Větev 2: Pokud žádné podrobnosti:
- Nabídněte, že poskytnete seznam nedávných transakcí.
Krok 3: Adresa ztracené debetní karty
Zmrazit kartu: Doporučujeme okamžité zmrazení.
- Větev 1: Pokud zákazník souhlasí:
- Zmrazte kartu a zeptejte se, zda chtějí výměnu. Potvrďte dodací adresu.
- Větev 2: Pokud zákazník odmítne:
- Doporučte sledovat účet kvůli neoprávněným transakcím.
Krok 4: Nastavení upozornění na transakce
Vyberte způsob upozornění: SMS, email, nebo obojí?
- Větev 1: Pokud si zákazník vybere:
- Nastavte upozornění na transakce nad určitou částku. Zeptejte se na částku.
- Větev 2: Pokud si nejste jisti:
- Navrhněte výchozí částku (např. 50 USD) a potvrďte.
Krok 5: Poskytněte shrnutí a další kroky
- Prošetřování nerozpoznané transakce.
- Zmrazení debetní karty a případné vydání náhradní.
- Nastavení upozornění na transakce podle požadavků.
Odůvodnění:
Tento proces efektivně řeší četné dotazy zákazníků prostřednictvím jasných kroků a rozhodovacích větví a zajišťuje tak komplexní řešení.
Omezení výzvy CoT
Řetězec myšlení je skutečně účinný, ale také závisí na případu použití, na který je aplikován, a na několika dalších faktorech. S tím jsou spojeny specifické výzvy Výzva CoT v AI které brání zúčastněným stranám plně využít jeho potenciál. Podívejme se na běžná úzká místa:
Překomplikované jednoduché úkoly
Zatímco výzva CoT funguje nejlépe pro složité úkoly, může komplikovat jednoduché úkoly a generovat nesprávné odpovědi. Pro úkoly, které nevyžadují žádné uvažování, nejlépe fungují modely s přímou odpovědí.
Zvýšená výpočetní zátěž
Zpracování výzev CoT vyžaduje značné výpočetní zatížení a pokud je tato technika nasazena na menších modelech, které jsou postaveny s omezenými schopnostmi zpracování, může je zahltit. Důsledky takového nasazení mohou zahrnovat pomalejší dobu odezvy, nízkou efektivitu, nekoherenci a další.
Kvalita rychlého inženýrství AI
Výzva CoT v AI funguje na základě předpokladu (nebo principu), že konkrétní výzva je dobře formulovaná, strukturovaná a jasná. Pokud výzva postrádá tyto faktory, výzva CoT ztratí schopnost uchopit požadavek, což má za následek generování irelevantních sekvenčních kroků a nakonec odpovědí.
Snížené schopnosti v měřítku
Zúčastněné strany mohou zažít problémy se svými modely, pokud budou muset využít myšlenkový řetězec pro obrovské objemy datových sad nebo složitosti problémů. U úloh zahrnujících větší kroky uvažování může tato technika zpomalit dobu odezvy, takže není vhodná pro aplikace nebo případy použití, které vyžadují generování odezvy v reálném čase.
CoT prompting je fenomenální technika pro optimalizaci výkonu Velké jazykové modely. Pokud lze takové nedostatky vyřešit a vyřešit pomocí optimalizačních technik nebo náhradních řešení, mohou přinést neuvěřitelné výsledky. S technologickým pokrokem bude zajímavé sledovat, jak se vyvíjení nabádání typu Chain-of-Thought vyvine a stane se jednodušším, ale zároveň úzce specializovaným.
