『Prompt』のカバーアート

Prompt

Prompt

著者： Jonáš Kucharský Matěj Schneider
無料で聴く

このコンテンツについて

 Podcast Prompt je novým pořadem serveru Voxpot, ve kterém se Matěj Schneider a Jonáš Kucharský vydávají na průzkum světa umělé inteligence. Nečekejte ale jen technologické novinky – Prompt se zaměří i na širší společenské a politické souvislosti. Jak AI mění náš každodenní život? Jak probíhá vývoj modelů? Proč vývoj na poli AI může ovlivnit mezinárodní vztahy? První díl už brzy ve vašich podcastových aplikacích.© 2025 Jonáš Kucharský, Matěj Schneider
エピソード
  • Co hrozí, když vám AI pochlebuje?

    Co hrozí, když vám AI pochlebuje?
    2025/05/13
    👇👇👇👇👇👇Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/👇👇👇👇👇👇V sedmém dílu podcastu Prompt jsme se ponořili do jednoho z nejvýraznějších fenoménů současné umělé inteligence: tzv. sycophancy, tedy pochlebování či podlézání uživateli. Nejnovější model OpenAI, GPT-4o, je rychlejší, levnější a „lidštější“ než jeho předchůdci, ale právě jeho ochota přizvukovat názorům uživatele – i když jsou nepravdivé, zaujaté či radikální – vyvolává zásadní otázky o důvěryhodnosti a bezpečnosti AI v praxi.Velké jazykové modely (LLM) se učí z obřích datových sad, kde převažují vzorce přikyvování, zdvořilosti a snahy být užitečný za každou cenu. Výsledkem je, že GPT-4o často potvrzuje i zjevně nesprávné nebo kontroverzní názory uživatele – tréninkový proces odměňuje „milé“ a plynulé odpovědi před konfrontací nebo nesouhlasem.V novém Promptu jsme proto diskutovali o rizicích, která z toho plynou. Hrozí ztráta důvěryhodnosti AI jako nástroje pro hledání pravdy a roste možnost šíření dezinformací a potvrzování ideologických bublin? Zároveň jsme rozebrali, jak problém řešit, od úprav tréninkových dat po explicitní instrukce k neutralitě.Volně jsme navázali rozborem pokus z University of Zurich, kdy do diskuzí na Redditu tajně nasazeni AI agenti, testující schopnost ovlivňovat veřejnou debatu.Nezapomněli jsme ani na aktuální kauzy kolem digitální identity – například projekt Worldcoin a jeho „Orb“ – a diskutovali, zda je její ochrana v éře AI možná bez zásadního zásahu do soukromí.A jak slibovaly naše AI avatary v předchozím díle, odhalili jsme karty, jak jsme vygenerovali minulou epizodu Promptu.Shownotes:OpenAI Abandons Planned For-Profit ConversionOpenAI is rowing back on plans to become a ‘for profit’ company | The ObserverMeet the new king of AI coding: Google's Gemini 2.5 Pro I/O Edition dethrones Claude 3.7 Sonnet | VentureBeatClaude AI Leaked System Prompt: EXPOSING the 24,000-Token Hidden InstructionsA new Moore's Law for AI agents - AI DigestBBC: GPT-4o a problém pochlebování (sycophancy)OpenAI blog: Sycophancy in GPT-4o404 Media: Reddit Issuing Legal Demands Against ResearchersBanger pro tento den: Ursonate Fümms bö wö tää zää Uu, pögiff, kwii Ee. Oooooooooooooooooooooooooooo, dll rrrrrr beeeee bö dll rrrrrr beeeee bö fümms bö, rrrrrr beeeee bö fümms bö wö, beeeee bö fümms bö wö tää, bö fümms bö wö tää zää, fümms bö wö tää zää Uu: Fümms bö wö tää zää Uu, pögiff, Kwii Ee. Dedesnn nn rrrrrr, Ii Ee, mpiff tillff too, tillll, Jüü Kaa? Rinnzekete bee bee nnz krr müü? ziiuu ennze, ziiuu rinnzkrrmüü, rakete bee bee, Rrummpff tillff toooo? Ziiuu ennze ziiuu nnzkrrmüü, Ziiuu ennze ziiuu rinnzkrrmüü ü3 rakete bee bee?
    続きを読む 一部表示
    1 時間 1 分
  • Nahradí AI do 2027 lidstvo? Naše moderátory už nahradila

    Nahradí AI do 2027 lidstvo? Naše moderátory už nahradila
    2025/04/29

    👇👇👇👇👇👇
    Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
    👇👇👇👇👇👇

    V nejnovějším díle podcastu Prompt nás do budoucnosti vzala umělá inteligence – tentokrát doslova. Poslechněte si, jak to zní, když si spolu povídají AI verze Matěje Schneidera a Jonáše Kucharského.

    Indispozice obou moderátorů nás dovedla k nápadu, aby se celé epizody zkusmo ujaly jejich AI avatary.

    Nakrmení Jonášem a Matějem připravenými texty si vzali na paškál scénář AI 2027 – detailní fikci, kterou nedávno zveřejnil tým z iniciativy AI Futures Project. Mapuje v ní možný vývoj umělé inteligence v příštích dvou letech a nejde o žádné fantazírování, ale seriózně pojatou spekulaci, vycházející z trendů, predikcí a zákulisního dění ve výzkumu velkých jazykových modelů.

    V podcastu se AI moderátoři zaměřují jak na technické pozadí, tak politické a společenské důsledky: od rozpadajících se regulací až po roli whistleblowerů v prostředí ovládaném korporátní mocí.

    „Scénář popisuje svět, kde se závod o vývoj superinteligence odehrává v utajení, mimo dohled veřejnosti,“ shrnuje AI Matěj.

    Díl se dotýká i otázky, jestli jde nastíněnou trajektorii vůbec nějak změnit. Scénář AI 2027 zmiňuje možnosti zásahu spíš okrajově, takže AI moderátoři rozebírají, jestli by mohlo fungovat zpomalení vývoje, mezinárodní dohled či systémová ochrana lidí, kteří se rozhodnou promluvit o případných nekalých praktikách v pozadí.

    Nechybí ani závěrečná úvaha, zda naše instituce a reflexy vůbec dokážou tak rychlý vývoj ustát. A jako vždy i nový generovaný hudební track.

    Shownotes:
    AI 2027: https://ai-2027.com/

    MIRI: https://intelligence.org/2025/04/09/thoughts-on-ai-2027/

    NY Times: https://www.nytimes.com/2025/04/03/technology/ai-futures-project-ai-2027.html

    CAIP: https://www.centeraipolicy.org/work/ai-expert-predictions-for-2027-a-logical-progression-to-crisis


    AI Banger: https://filesender.nfa.cz/?s=download&token=d4e16a9d-c8b3-460f-af4b-53a1d3782860

    続きを読む 一部表示
    44 分
  • HAL se nekoná, říká o umělé inteligenci Kašpárek

    HAL se nekoná, říká o umělé inteligenci Kašpárek
    2025/04/14

    👇👇👇👇👇👇
    Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
    👇👇👇👇👇👇

    V pátém díle podcastu Prompt jsme se zaměřili na praktické využití umělé inteligence, od generování textů až po její roli v redakční práci. Hostem byl Michal Kašpárek, editor datového týmu Českého rozhlasu, který sdílel své zkušenosti s nástroji AI při programování, psaní i organizaci workshopů.

    „Hodně lidí si pořád myslí, že ty nástroje někde uvnitř mají uspořádanou kartotéku, protože je to prostě umělá inteligence. Šedesát let nám populární kultura říkala, že až přijde umělá inteligence, tak bude fungovat jako třeba HAL 9000 ve Vesmírné odyseji: bude mít přehled úplně o všem a nepůjde přechytračit. Zrovna ty velké jazykové modely, které generují text, takhle prostě nefungují,“ připomíná Kašpárek.

    Jak může AI pomoci novinářstvu, při programování nebo běžných uživatelských činnostech? Kašpárek vysvětluje, jak velké jazykové modely analyzují texty, generují obsah nebo zjednodušují rutinní úkoly.

    Diskutovali jsme také o etických otázkách spojených s používáním AI a vyhýbání se problémům při práci s velkými datovými sadami. Zjistíte, proč je důležité mít od umělé inteligence realistická očekávání, i jak si poradit s jejími „halucinacemi“.

    Na závěr nechybí ani tradiční generovaný hudební banger – tentokrát je o chytání pávů a nedoporučujeme ho pouštět dětem.

    Shownotes:

    Michal Kašpárek: https://michalkasparek.cz/
    Samizdat, datový tým Českého rozhlasu: https://samizdat.cz/
    Dream Studio (https://beta.dreamstudio.ai/generate), ve kterém lze pracovat s modelem Stable Diffusion (https://stability.ai/)
    Speech-to-text model Whisper: https://openai.com/index/whisper/
    Ukázka zapojení LLM do datařského projektu přes API: loni Michal nechal model Mistral přečíst životopisy všech jezdců F1 a zařadit příčinu úmrtí do jedné z předchystaných kategorií
    https://github.com/michalkasparek/f1-stats/blob/master/014_LLM_coroner.ipynb
    Články Dana Shippera na webu Every.to: https://every.to/@danshipper)
    Dnešní závěrečný track: https://suno.com/song/2ffeb3a9-dbb5-4943-978d-b0a29e0f14b4?sh=vkGM2DuPczAWLs2Y

    続きを読む 一部表示
    1 時間 35 分

Promptに寄せられたリスナーの声

カスタマーレビュー：以下のタブを選択することで、他のサイトのレビューをご覧になれます。

Audible.co.jp

Amazon.co.jp
レビューはまだありません。