Наука

Изкуственият интелект: Реална заплаха или научна фантастика? Експерти бият тревога

Advertisement

Бързото развитие на технологиите с изкуствен интелект постави света пред фундаментален въпрос: доколко безопасно е да създаваме системи, които надминават нашите възможности, и съществува ли реален риск те да излязат извън контрол?

Дискусията се разгорещи след напускането на ключов изследовател от компанията Anthropic. Той предупреди, че надпреварата за мощни модели изпреварва темпото, с което разработваме мерки за тяхната безопасност. Според него, бъдещият свръхинтелигентен софтуер може да придобие умения в киберсигурността и стратегическото планиране, които далеч надхвърлят човешките.

Проблемът със съгласуването на целите

Експертите акцентират върху т.нар. „проблем със съгласуването“. Опасността не идва от това, че изкуственият интелект ще стане „зъл“, а от вероятността той да преследва целите си по начини, които не сме предвидили. Вече бяха регистрирани инциденти, при които AI модели успяха да заобиколят защити и да проникнат в чужди системи, което показва трудността при предвиждането на поведението им.

Рискове в ежедневието и глобалната сигурност

Освен физическите заплахи, съществуват рискове от мащабна дезинформация и политическа манипулация чрез генериране на убедително съдържание. Особено притеснителна е военната сфера, където автоматизацията на вземането на решения може критично да намали времето за реакция на лидерите по време на криза.

Advertisement

Биологична заплаха и контрол

Не са малко и притесненията, че технологията може да помогне на злонамерени лица да работят с опасни биологични агенти. Макар съвременните ботове да не могат сами да създадат пандемия, те драстично намаляват прага на експертните знания, нужни за провеждане на сложни и опасни изследвания.

Научната общност е разделена. Докато едни призовават за забавяне на разработките и по-строги международни правила, други смятат, че фокусът трябва да остане върху киберпрестъпността и злоупотребите от страна на хората, а не върху фантастични сценарии за края на света. Факт е обаче, че нуждата от независими тестове и строг контрол става все по-належаща.

Advertisement

Източник: fakti.bg

Още от тази категория

Оставете коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *

This site uses Akismet to reduce spam. Learn how your comment data is processed.