Czy możemy ufać sztucznej inteligencji? | prof. Przemysław Biecek
About this episode
Prof. Przemysław Biecek discusses the reliability of artificial intelligence and the phenomenon of 'hallucination' in language models.
Dlaczego modele językowe zmyślają zamiast „przyznać”, że nie dotarły do jakiejś informacji? – Celem takiego „czata” jest uzyskanie jak największej oceny od użytkownika. Użytkownik lubi porozmawiać sobie, lubi mieć wrażenie, że jest zaopiekowany, więc gdyby usłyszał odpowiedź „nie wiem”, to pewnie nie byłby zadowolony. Sposób treningu powoduje, że jest presja, by te modele zawsze wiedziały, zawsze coś mówiły – wyjaśnia prof. Przemysław Biecek, dyrektor Centrum Wiarygodnej Sztucznej Inteligencji na Politechnice Warszawskiej. 💛 https://patronite.pl/radionaukowe 💸 https://suppi.pl/radionaukowe 📖 https://wydawnictworn.pl/ W odcinku rozmawiamy o tym, na ile zjawisko „halucynowania” jest wpisane w naturę tych modeli i czy są metody, aby uzyskiwać odpowiedzi, na których można polegać. – Samo słowo „halucynacja” myślę, że wybiela rzeczywistość – ocenia prof. Biecek. Sugeruje, że to stan tymczasowy, chwilowe zaćmienie. Co ciekawe, z danych wynika, że czasem pomaga rozbudowanie prompta. – Część osób pokazywała, że dodawanie losowych sekwencji tokenów po swoim pytaniu zwiększa skuteczność. Czyli możemy napisać pytanie, a później dodać 200 losowych innych słów i to może zwiększyć…
People in this episode
Host: Karolina Głowacka
Guest: prof. Przemysław Biecek
Topics covered
- sztuczna inteligencja
- modele językowe
- halucynacje
- technologia
- efektywność
Keywords
- sztuczna inteligencja
- halucynacje
- modele językowe
- efektywność
- technologia
Mentioned in this episode
Organizations: Centrum Wiarygodnej Sztucznej Inteligencji, Politechnika Warszawska
More episodes of Radio Naukowe
- Przełom czy kradzież? OpenAI i problem milenijny | KOMENTARZ | dr Bartosz Naskręcki
- LAMU'26 #10 Dlaczego muszą człowieki jeść obiad? Jak widzą niemowlęta?
- Czy powstanie Wielki Zderzacz Bakterii? | dr Jonasz Słomka
- LAMU'26 #09 Czy w Polsce był wulkan? Ile jest wody w Wiśle?
- #315 Wszechświat w wymiarze gamma. Odkrycia na horyzoncie | prof. Tomasz Bulik
- LAMU'26 #08 Jakie jest najwyższe drzewo? Dlaczego banany są zgięte?
Explore listener stats, chart rankings, contacts and more on the Radio Naukowe podcast page.