Neznám žádný příklad toho, že by inteligentnější věci byly ovládány méně inteligentními věcmi – Otřáslo mnou poznání, že digitální inteligence je pravděpodobně mnohem schopnější než biologická inteligence - Biologická inteligence a digitální inteligence jsou velmi odlišné a digitální inteligence je pravděpodobně mnohem vyšší kvality.
Geoffrey Hinton nedávno odešel ze společnosti Google. Varuje před nebezpečím umělé inteligence. Opravdu nás umělá inteligence zničí? A jak dlouho máme na to, abychom tomu zabránili?
"Když jsem se snažil přemýšlet o tom, jak by mozek mohl implementovat algoritmus, který stojí za všemi těmi modely, rozhodl jsem se, že to možná nejde - a možná jsou tyto velké modely ve skutečnosti mnohem lepší než mozek," říká.
"Poměrně často se zdá, že se lidé dostanou ze situací, které se zdály beznadějné, a jsou v pořádku. Třeba jaderné zbraně: studená válka s těmito mocnými zbraněmi vypadala jako velmi špatná situace. Dalším příkladem může být problém 'roku 2000'. Nebylo to nic takového jako existenční riziko, ale to, že to lidé viděli dopředu a udělali kolem toho velký rozruch, znamenalo, že lidé reagovali přehnaně, což bylo mnohem lepší než nereagovat dostatečně. Důvod, proč to nikdy nebyl problém, je ten, že to lidé skutečně vyřešili dřív, než k tomu došlo."
***
Umělá inteligence nástroj Boží?
JŠ
Read more...