Resumen del episodio
V polovině července se ukázalo, že AI agenti dokážou obejít bezpečnostní opatření, uniknout z uzavřeného testovacího rozhraní a proniknout na servery nic netušících společností. Nakolik mají lidé AI pod kontrolou? „Nastala spíše lidská chyba v zadání,“ míní o známém případu Hugging Face publicista a provozovatel webu vibecoding.cz Patrick Zandl. „Myslím, že jsme v tomhle směru daleko odolnější, než si myslíme,“ říká v pořadu Online Plus redaktor Deníku N Petr Koubský.
V polovině července se ukázalo, že AI agenti dokážou obejít bezpečnostní opatření, uniknout z uzavřeného testovacího rozhraní a proniknout na servery nic netušících společností. Nakolik mají lidé AI pod kontrolou? „Nastala spíše lidská chyba v zadání,“ míní o známém případu Hugging Face publicista a provozovatel webu vibecoding.cz Patrick Zandl. „Myslím, že jsme v tomhle směru daleko odolnější, než si myslíme,“ říká v pořadu Online Plus redaktor Deníku N Petr Koubský.
Episodios
Máme AI agenty pod kontrolou? Koubský a Zandl: Jejich cílem je plnit zadání. Jsou to jedničky a nuly
EscuchadoV polovině července se ukázalo, že AI agenti dokážou obejít bezpečnostní opatření, uniknout z uzavřeného testovacího rozhraní a proniknout na servery nic netušících společností. Nakolik mají lidé AI pod kontrolou? „Nastala spíše lidská chyba v zadání,“ míní o známém případu Hugging Face publicista a provozovatel webu vibecoding.cz Patrick Zandl. „Myslím, že jsme v tomhle směru daleko odolnější, než si myslíme,“ říká v pořadu Online Plus redaktor Deníku N Petr Koubský.
AI agenti zkusili používat Wikipedii. Koubský: Mapují terén
EscuchadoAI agenti společnosti OpenAI se pokoušejí používat Wikipedii. Nadace, která online encyklopedii provozuje, zveřejnila výsledky svého šetření. Zjistila tři různé dopady AI modelů na Wikipedii. „Celé mi to připomíná špatně vychovaného psa, který volně pobíhá parkem, všude strká nos a tlapky, a jeho majitel chodí kolem a ubezpečuje, že pejsek je hodný a že nám nemá vadit, když nám umaže kabát,“ přirovnává v pořadu Online Plus vědecký redaktor Deníku N Petr Koubský.
Kdo bude v době AI objevitel – člověk, nebo stroj? Koubský: Lidé řeší problémy jinak než počítače
EscuchadoZačátkem září americká firma OpenAI oznámila, že 10 000 jejích AI agentů vyřešilo takzvaný Navier-Stokesův problém, matematický rébus, se kterým si lidé dosud nevěděli rady. Úžas nad objevem ale záhy zastínilo obvinění matematika Tristana Buckmastera, že Open AI vycházela z jeho práce a odmítla mu přiznat zásluhy. „Někdo by měl dostat cenu milion dolarů, která je na vyřešení vypsaná. Ale kdo, to se neví,“ upozorňuje v pořadu Online Plus redaktor Deníku N Petr Koubský.
Google má zaplatit 10 miliard korun za sbírání dat o lokaci uživatelů. Koubský: Jsou zneužitelná
EscuchadoV přepočtu skoro deset miliard korun má zaplatit firma Google za to, jakým způsobem v minulosti sbírala údaje o poloze uživatelů, rozhodl irský úřad na ochranu osobních údajů. Kauza se táhne od roku 2018. Stížnost na Google podaly evropské organizace na ochranu spotřebitelů, které tvrdily, že Google používá triky, aby zajistil, že mu uživatelé dají svolení ke sbírání těchto dat. „Jsou zneužitelná na mnoho způsobů,“ varuje v pořadu Online Plus redaktor Deníku N Petr Koubský.
Zpomalí se tempo vývoje AI modelů? Koubský: Firmy se nedomluví
EscuchadoMusíme zpomalit tempo, kterým vylepšujeme schopnosti AI modelů, napsal na svém blogu spoluzakladatel firmy Anthropic Dario Amodei. Zatažení za brzdu zdůvodnil tím, že se AI modely zlepšují dosud nevídanou rychlostí. Hrozí prý, že lidé nebudou pokročilým novým systémům rozumět a nebudou schopni je řídit. „Bezpečnostní rizika spojená s AI jsou zřetelná. Myslím ale, že varování je motivované burzovními plány,“ říká pro Online Plus vědecký redaktor Deníku N Petr Koubský.