ШІ не стане розумнішим за людину: вчений попередив про іншу загрозу

Штучний інтелект не зможе перевершити людину в комплексному мисленні, однак це не робить його безпечним. На думку дослідника Пітера Деннінга, найбільша проблема сучасних нейромереж полягає не в надмірному інтелекті, а в нездатності повноцінно розуміти людський досвід і контекст. 

Дослідник переконаний, що навіть найсучасніші нейромережі не мають того, що він називає “неявним знанням”. Людина накопичує його протягом усього життя, спираючись на власний досвід, і використовує майже автоматично в повсякденних ситуаціях. Саме цей багаж знань, за словами Деннінга, практично неможливо повністю описати чи передати комп’ютеру.

Він виділяє п’ять основних складових такого знання. До них належать практичні навички й розуміння фізичного світу, інтуїція, творча уява, невербальний досвід спілкування, а також відчуття культурного й соціального контексту.

На думку вченого, сучасні системи на кшталт ChatGPT працюють зі словами, сприймаючи їхнє базове значення, але не охоплюють величезний пласт підтекстів, асоціацій і конотацій, які люди вкладають у мовлення.

Деннінг пояснює, що кожне слово пов’язане з великим обсягом людського досвіду. Значення висловлювань постійно змінюється залежно від іронії, гумору, сарказму, щирості та попереднього контексту розмови. Через це людська мова не зводиться лише до словникових визначень.

Саме тому головною загрозою штучного інтелекту він вважає не можливе перевершення людини, а нездатність повністю зрозуміти людські цінності й ситуаційний контекст. У результаті нейромережі можуть діяти швидко та ефективно, але водночас ухвалювати потенційно шкідливі рішення через неправильне тлумачення обставин.