Хто фінансуе «незалежных» ацэншчыкаў рызыкаў ШІ

У спрэчках пра рызыкі ШІ зьявілася яшчэ адна тэма: хто фінансуе тых, хто гэтыя рызыкі вывучае і апісвае.

Незалежны дасьледчык Кевін Бас апублікаваў схему фінансавых сувязяў вакол Anthropic, Coefficient Giving, арганізацыяў па бясьпецы ШІ і METR. Яна паказвае не схаваную змову, а перасячэньне інвэстыцыяў, дабрачынных грантаў, радоў дырэктараў і партнэрскіх праектаў. Але такое перасячэньне само па сабе варта разумець і абмяркоўваць.

Цэнтральная фігура тут — Дастын Масковіц, сузаснавальнік Facebook і адзін з ранніх інвэстараў Anthropic. Разам з Кары Туна ён заснаваў Good Ventures; гэтая фундацыя зьяўляецца асноўным донарам Coefficient Giving, раней вядомай як Open Philanthropy. Coefficient адкрыта працуе з тэмай трансфармацыйнага ШІ і фінансуе арганізацыі, што займаюцца бясьпекай і кіраваньнем ШІ.

METR, якую Дар’ё Амадэі называў магчымым незалежным ацэншчыкам Anthropic, таксама атрымлівала буйное фінансаваньне праз The Audacious Project. Сам METR піша, што найбольшы аб’ём ягонага фінансаваньня паступаў праз гэты праект; The Audacious Project і іншыя доназы — асобны прадмет для праверкі крыніц і магчымых канфліктаў інтарэсаў.

Бас робіць далёкую выснову: што гэтыя сувязі ствараюць «машыну рэгулятарнага захопу» вакол Anthropic. Гэта ўжо ягоная інтэрпрэтацыя, а не даказаны факт. Даступныя публічныя зьвесткі пацьвярджаюць, што ў сетцы ёсьць фінансавыя і інстытуцыйныя перасячэньні; самі па сабе яны не даказваюць, што ацэнкі METR або працы іншых арганізацыяў загадзя скаардынаваныя з інтарэсамі Anthropic.

Але пытаньне ад гэтага не зьнікае. Калі лябараторыя прапануе незалежны кантроль за ўласнымі мадэлямі, важна бачыць ня толькі мэтадалёгію праверкі, але і тое, хто плаціць за інстытуцыі, што правяраюць. Незалежнасьць — гэта ня проста слова ў прэс-рэлізе, а празрыстая сыстэма фінансаваньня, кіраваньня і права публікаваць нязручныя высновы.

Крыніцы: схема Кевіна Баса; Coefficient Giving пра Дастына Масковіца; METR пра фінансаваньне праз The Audacious Project.