Бързото развитие на технологиите с изкуствен интелект постави света пред фундаментален въпрос: доколко безопасно е да създаваме системи, които надминават нашите възможности, и съществува ли реален риск те да излязат извън контрол?
Дискусията се разгорещи след напускането на ключов изследовател от компанията Anthropic. Той предупреди, че надпреварата за мощни модели изпреварва темпото, с което разработваме мерки за тяхната безопасност. Според него, бъдещият свръхинтелигентен софтуер може да придобие умения в киберсигурността и стратегическото планиране, които далеч надхвърлят човешките.
Проблемът със съгласуването на целите
Експертите акцентират върху т.нар. „проблем със съгласуването“. Опасността не идва от това, че изкуственият интелект ще стане „зъл“, а от вероятността той да преследва целите си по начини, които не сме предвидили. Вече бяха регистрирани инциденти, при които AI модели успяха да заобиколят защити и да проникнат в чужди системи, което показва трудността при предвиждането на поведението им.
Рискове в ежедневието и глобалната сигурност
Освен физическите заплахи, съществуват рискове от мащабна дезинформация и политическа манипулация чрез генериране на убедително съдържание. Особено притеснителна е военната сфера, където автоматизацията на вземането на решения може критично да намали времето за реакция на лидерите по време на криза.
Биологична заплаха и контрол
Не са малко и притесненията, че технологията може да помогне на злонамерени лица да работят с опасни биологични агенти. Макар съвременните ботове да не могат сами да създадат пандемия, те драстично намаляват прага на експертните знания, нужни за провеждане на сложни и опасни изследвания.
Научната общност е разделена. Докато едни призовават за забавяне на разработките и по-строги международни правила, други смятат, че фокусът трябва да остане върху киберпрестъпността и злоупотребите от страна на хората, а не върху фантастични сценарии за края на света. Факт е обаче, че нуждата от независими тестове и строг контрол става все по-належаща.
Източник: fakti.bg












