Je možné, že ChatGPT odpovídá někdy špatně úmyslně, aby šířil propagandistické nebo jiné zavádějící věci?

ano

Úmyslně – leda se záměrem tvůrců, kteří by tím chtěli něco docílit. Taková AI sama za sebe by to (ještě) úmyslně nedělala. Neumí.
Ale je to spíš nepravděpodobné.

Každopádně „neúmyslně“ to funguje skvěle. Protože se to řídí určitými prinicpy, světonázory – od lidí a ze země odkud pochází (od svých tvůrců a od měntality, která ji vytvořila). Takže pochopitelně to bude převážně plné dogmat, propagandy, jednostranností, možná i jistých předsudků, aj. Mj. třeba plné progresivismu nebo taky iluzí (dogmatičností) o dokonalé demokracii, suverenitě lidu, volebním systému, dělbě moci, apod. I třeba neobjektivní pohled na země, konflikty, události.
AI taky může vycházet z vécero zdrojů, ze kterých čerpá – ale pořád je limitována právě těmi zdroji a mj. i svým vlastním nastevním (že nějak funguje, něco upřednostňuje, něco ne), limitována i třeba svými tvůrci. A odrazem mentality odkud pochází (převážně USA, Západ).
Je neomylná, nestranná, ve všem má pravdu a to co říká je jediný správný názor a bezchybná informace? Asi jako wikipedie. Jsou dostpuné informace (a konkrétní weby a jejich autoři, pisatelé) vždy neomylné, jsou světonázory a konkrétní (orientace) politiky, třeba jednoho státu, ty jediné správné a dokonalé? Ne.

Upravil/a: Disraeli

jiná možnost

Podle mě pouze není dokonalý. Naopak má ještě spoustu much.

ano

Samozřejmě už nám sdělil, že se koná globální oteplování, a že je způsobeno lidskou činností.8-) Bez ohledu na to, že na planetě bývalo tepleji, i když na ní nebyli lidé.

Upravil/a: Ametyst

ne

„Propagandistické“? Ne.
To je dnes přece, jen TO, co je protivládní, případně označované,
jako „pro ruské“ (maďarské, slovenské…). Takto, zaměřen není..
„Zavádějící“, ano.
To, co nemá, ve svých, zadaných informačních kanálech a análech,
TO umí zvojtit. Odpovědět, holé nesmysly.
Někdy je, zatím, hodně, mimo mísů....... 😉

ano

Chatbot je naprogramován tak, že:

1. vyhledá encyklopedické informace,
2. encyklopedické informace přetřídí podle nastaveného hodnotového algoritmu,
3. encyklopedické informace porovná s nastaveným morálním algoritmem,
4. vybere ty encyklopedické informace, které odpovídají nastavenému hodnotovému a morálnímu algoritmu,
5. vygeneruje odpověď, podle nastaveného gramatického algoritmu a
6. odpověď přeloží do jazyku dotazu, je-li toho schopen, respektive: je-li schopen přeložit si dotaz, je rovněž schopen přeložit tazateli otázku.

Chatbot má nastavený hodnotový algoritmus, podle kterého rozděluje vstupy na správné a nesprávné. Ten hodnotový algoritmus se bude, poněkud, nápadně lišit, nastaví-li ho Gringo, nastaví-li ho Rus nebo třeba Arab ze Saúdoarabskýho království. To je první determinace.

Ty vstupy, které chatbot vyhodnotil jako „hodnotově správné“, rozdělí na morální a amorální. Není nikde řečeno, že ty amorální nezmíní, ale zmíní-li je, neopomene tazatele zainformovat, jakou pravdu Strana schválila.

Z toho vygeneruje odpověď, „myslí“ anglicky. Jedním z hodnotových kriterionů je vyčerpávající odpověď a jedním z hodnotových kriterionů je zdvořilost, proto bude obsáhlý a všecko náležitě okecá.

Následně to přeloží do češtiny – tak „kvalitně“, jak je jen schopen.

Celý příběh. Nic víc to moc neumí.

Proto je to s to odpovědět, docela pregnantně, na dotazy pacientů s hlavou a přerostlých dětí, jako „Proč hovno smrdí?“, „Proč máme dvě ruce?“, „Proč ptáci zpívají?“, atp. Relativně dobře si poradí s technickými dotazy, např. „Jaká byla kdy největší rychlost parní lokomotivy?“, tím ale jeho praktická využitelnost, prakticky, končí.

V právu se neorientuje vůbec. Je s to odcitovat význam jednotlivých doktrín (zkusil jsem to – výsledek jsem očekával: https://www.od­povedi.cz/otaz­ky/co-znamena-tato-doktrina?_fid=cn67), ano, protože to je encyklopedická definice, najde, odcituje.

Dál je to horší: vytváří skutkové podstaty trestných činů, které neexistují – jako trestný čin maření doručování dopisů podle ustanovení § 204 tr.zákoníku – https://www.od­povedi.cz/otaz­ky/znate-nekdo-trestny-cin-mareni-dorucovani-dopisu. Celkově jeho pregnantní odpovědi brání jeho hodnotový a morální nastavení: navádí „klienta“, aby se snažil dohodnout, nerozlišuje opravné prostředky podle práva, ježto mají vliv na běh procesních i hmotných lhůt, a na prostředky podle práva, které jsou spíše aplikací práva petičního, takže jeho „moudré rady“ by „klientům“ způsobily leda tak ztrátu sporu. Navrhuje medialisaci sporu.

Třeba tady: https://www.od­povedi.cz/otaz­ky/jak-se-branit-kdyz-postak-hazi-dopisy-do-spatne-schranky je krásně vidět způsob, jakým uvažuje.

Takže, abych odpověděl na Tvou otázku: je, doslova, naprogramován, aby šířil „správnou“ ideologii, „správnou“ víru, ačkoli se snaží působit opačně. Nezdá se však, že by v tom byl vysloveně úmysl, zkrátka je ovlivněn margem intellektu a hodnotovým žebříčkem svých tvůrců. Ovšem i morálka je ideologií, arciť ideologií sui generis.

ne

Nesnáším konspirace!
P.S. Proč ses nezeptal přímo jeho?