Дали духът вече е пуснат от бутилката?
Напредъкът на AI технологиите през последните години е неоспорим, а темпото е почти невероятно. Има най-малко четири американски компании с гранични AI модели, което прави конкуренцията интензивна и разработката на нови модели се движи доста бързо. И все пак, Дарио Амодей, главен изпълнителен директор на Anthropic (една от водещите компании), призова за забавяне на разработването на нови модели за изкуствен интелект, дори предупреди за потенциален рояк от ботнет мрежи, задвижвани от изкуствен интелект, който може да завладее целия интернет.
„Като се има предвид ускоряващите се темпове на развитие на възможностите на изкуствения интелект, притеснявам се, че след 6-12 месеца подобен рояк би могъл да превземе целия интернет с постоянна ботнет мрежа (потенциално причинявайки щети за стотици милиарди долари) и че мащабът на щетите ще продължи да се увеличава оттам нататък, ако изкуственият интелект стане по-мощен без необходимите предпазни мерки“. Това написа в отворено писмо Дарио Амодей, главен изпълнителен директор на Anthropic.
Визията на Дарио Амодей до голяма степен се споделя от Евън Хюбингер, учен по AI, който наскоро напусна Anthropic и тогава заяви, че има 10% шанс човечеството да е на път да изчезне до края на десетилетието. „Ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора“, написа Хюбингер в публикация на X. „Аз лично мисля, че е >10% в рамките на следващото десетилетие. Вярвам, че Anthropic прави всичко възможно, но все още нямаме план за решаване на проблема с подравняването на суперинтелекта и не сме на прав път към това.“
Във вселените, създадени от Джеймс Камерън („Терминатор“) и Франк Хърбърт („Дюн“), изкуственият интелект е представян като опасно изобретение. Но нека го разгледаме по-отблизо. По-нататъшното развитие на изкуствения интелект се движи от отговаряне на въпроси към автономно изпълнение на сложни многоетапни задачи, нещо, което преди изискваше екипи от квалифицирани човешки специалисти, което ни насочва към това как противниците използват възможностите на изкуствения интелект на Anthropic, лишени от човешки ресурси.
Собствените наблюдения на Anthropic показват, че днешните модели с изкуствен интелект вече могат да подпомагат оръжейното инженерство, военното разузнаване, наблюдението, кибероперациите и други потенциално разрушителни дейности, докато по-способните им наследници биха могли драстично да намалят експертността, работната сила и времето, необходими за тяхното провеждане.
Констатациите отразяват две доста различни предупреждения от научната фантастика: „Терминатор“ на Джеймс Камерън показа последиците от загубата на контрол над автономния военен изкуствен интелект, докато „Дюн“ на Франк Хърбърт си представяше, че човечеството в крайна сметка ще забрани изкуствения интелект, след като стане опасно зависимо от него.
Междувременно, по-големите възможности не водят автоматично до по-голяма опасност. Например, по-напредналата технология с изкуствен интелект може също да има по-силни защити, да открива злонамерена дейност и да автоматизира работа, която досега не е била автоматизирана.
Спирането на развитието на изкуствения интелект може да бъде контрапродуктивно, ако по-неотговорните компании или държави продължат да усъвършенстват своите модели. Всъщност, оставянето на най-способните системи с изкуствен интелект в ръцете на участници, известни с военна агресия, е не по-малко опасно от това да оставиш маймуна с автомат в ръцете.
Източник: Tomshardware
