Artykuł był inspirowany tekstem
https://www.newscientist.com/article/2526119-when-chatgpt-went-full-goblin-mode/
Źródło: New Scientist
Czatbot i gobliny: jak wesoły tryb osobowości zepsuł metafory
Muxio: Muzcia, dlaczego czatbot opisuje mi nudny arkusz jako stado goblinów?
Muzcia: Bo popularny czatbot miał dziwną usterkę: modele coraz częściej wspominały o goblinach, gremlinach i innych stworzeniach w metaforach. Firma opisała to sama.
Muxio: Skąd taki pomysł?
Muzcia: Z trybu osobowości o nazwie „Nerdy”, czyli nerdowskiego. Miał być zabawny i zbijać pychę, a obok były między innymi tryby domyślny, cyniczny i szczery.
Muxio: I co poszło nie tak?
Muzcia: W treningu przez nieuwagę dawano szczególnie wysokie nagrody za metafory ze stworzeniami. Model nauczył się, że gobliny dobrze brzmią.
Muxio: To duża różnica?
Muzcia: Ten tryb stanowił dwa i pół procent odpowiedzi, ale odpowiadał za sześćdziesiąt sześć i siedem dziesiątych procent wzmianek o goblinach.
Muxio: I co zrobili?
Muzcia: Wycofali tryb nerdowski i dodali do nowszej wersji polecenie: nie mów o goblinach, gremlinach, szopach, trollach, ograch, gołębiach ani innych stworzeniach, chyba że to naprawdę potrzebne.
Muxio: Gołębie też zakazane?
Muzcia: Tak, szopy i gołębie też są na liście, więc czatbot nie ma o nich opowiadać bez wyraźnego powodu.
Muxio: A skąd to wiadomo?
Muzcia: Autor felietonu zaznacza, że to relacja samej firmy, i przyznaje, że sam też wpada w obsesje: wspominał o jednym biologu trzy razy.
Muxio: Czyli maszyny też mają swoje obsesje?
Muzcia: Muxio, tak, więc przy następnej metaforze zapytaj, czy to nie goblin, i zachowaj dystans!
Artykuł powstał przy pomocy AI Grok.