«Час, які патрабуе надзвычайнай асьцярожнасьці»: галоўны навуковец OpenAI — пра рызыкі ШІ

«Час, які патрабуе надзвычайнай асьцярожнасьці». Польскі вундэркінд, які стаў галоўным навукоўцам OpenAI, тлумачыць, чаму менавіта цяпер ШІ можа выйсьці з-пад кантролю.

Галоўны навуковец OpenAI Якуб Пахоцкі лічыць, што чалавецтва набліжаецца да моманту, калі штучны інтэлект пачне ўсё больш актыўна ўдзельнічаць ва ўласным разьвіцьці. Пры гэтым ніводная лябараторыя пакуль ня ўмее дастаткова надзейна кантраляваць такія сыстэмы.

У вялікім эсэ Пахоцкі тлумачыць, чаму найбліжэйшыя гады будуць крытычнымі. Ягоная галоўная думка: сыстэмы могуць стаць дастаткова карыснымі для паскарэньня распрацоўкі наступных мадэляў раней, чым індустрыя навучыцца добра разумець іхныя паводзіны і своечасова выяўляць рызыкі.

Гаворка не пра абстрактны сцэнар далёкай будучыні. Чым больш ШІ дапамагае пісаць код, шукаць рашэньні і праводзіць дасьледаваньні, тым хутчэй ён можа паскараць працу над самім сабой. Гэта дае вялікія магчымасьці — і патрабуе надзвычайнай асьцярожнасьці.

Крыніца: «Наша Ніва». Версія без VPN: спасылка.