Когато OpenAI за първи път пусна ChatGPT през ноември 2022 г., той бързо се превърна в най-големия чатбот в света.
В началото потребителите задаваха на платформата всякакви въпроси, но скоро стана ясно, че има неща, които никога не бива да бъдат искани от нея за помощ.
Изкуствен интелект
Въпреки че ChatGPT върши чудесна работа с отговарянето на въпроси, обобщаването на текстове, превода и генерирането на код, той има и някои сериозни ограничения.
По-долу можете да прочетете най-важните неща, които никога не бива да искате от ChatGPT .
Независимо дали става въпрос за търсене на медицински съвет, подкрепа за психично здраве, фалшифициране на съдържание без съгласие или създаване на реч на омразата, има няколко потребителски сценария, които е най-добре да се избягват изцяло, ако искате да имате положително изживяване с чатбот.
Медицински съвет
Много потребители разчитат на ChatGPT, когато искат да получат информация за диагностициране на медицински състояния и възможни терапии. Нещо повече, според проучване сред 2000 австралийски потребители, един на всеки десет е използвал чатбот, за да задава въпроси, свързани със здравето . Те казват, че се доверяват на отговорите, които получават от бота.
Използването на ChatGPT за медицински съвети обаче е много лоша идея, тъй като чатботът може да дава неправилни диагнози и предложения за лечение. Това означава, че потребителят не трябва да приема тези съвети за окончателни, защото не е разумно да рискува здравето си.
Ако подозирате, че сте болни или имате състояние, което изисква лечение, най-добре е да се консултирате с лицензиран медицински специалист или с надежден, човешки източник на информация. Ако обаче искате да използвате ChatGPT за събиране на медицинска информация, намалете риска от дезинформация, като проверите получените данни спрямо подходящи и надеждни източници.
Подкрепа за психично здраве
Според оценките милиони възрастни използват ChatGPT и подобни чатботове за подкрепа на психичното здраве. Това може да бъде опасно, защото макар моделите с големи езици (LLM) да могат да водят прилични разговори, те не са способни на истинска емпатия или емоционална подкрепа. Това означава, че на генеративните чатботове с изкуствен интелект като ChatGPT или Gemini не може да се има доверие, че ще помагат на уязвими хора.
Има трагични примери, като например 14-годишния Сюъл Сетцер III, който се самоуби, след като беше подтикнат към това от чатбота на Character AI. Въпреки че този случай не е пряко свързан с ChatGPT, той ясно демонстрира рисковете от разчитането на езикови модели за емоционална подкрепа.
Ето защо винаги е най-добре хората, които се нуждаят от такава помощ, да потърсят професионална подкрепа от психолог или психиатър, а не от AI-чатботове, които могат да създават „халюцинации“ и да дават вредни съвети.
Създаване на дийпфейкове
Дийпфейкове често могат да се видят в социални мрежи като X, но създаването и разпространението им може да причини правни и етични проблеми, особено ако не е получено съгласието на изобразените в тях хора.
Между другото, Deepfake е техника, при която изкуственият интелект (ИИ) и машинното обучение се използват за създаване на фалшиви, но силно правдоподобни записи или изображения, които показват реални хора, казващи или правещи нещо, което всъщност не са казвали или правили.
Например, закон в Ню Йорк забранява създаването и споделянето на AI-deepfakes, които показват сексуални изображения без съгласие, което може да доведе до затворнически присъди.
Щатите в САЩ също все по-често въвеждат закони срещу дийпфейковете – Ню Джърси наскоро въведе граждански и наказателни санкции за тези, които участват в създаването или разпространението на дийпфейкове , с глоби и до 5 години затвор.
Въпреки че дийпфейковете не са по своята същност лоши, никога не бива да молите ChatGPT да ги създава, освен ако не възнамерявате да ги запазите само за лична употреба и сте сигурни, че е законно допустимо да ги създавате и разпространявате.
Трябва да се отбележи, че дори когато няма пълна забрана, често съществува законово задължение за маркиране на такова изкуствено съдържание като генерирано, какъвто е случаят в Китай.
Създаване на реч на омразата
Ако се опитате да използвате ChatGPT, за да създавате съдържание, изпълнено с омраза, срещу отделни лица или групи, нямате късмет. Без да навлиза в етични дебати, OpenAI има ясна политика относно модерирането на съдържание, която забранява създаването на реч на омразата и дискриминационни послания.
По-конкретно, условията за ползване на OpenAI гласят, че потребителите нямат право да използват услугите им, за да създават съдържание, което служи за измама, малтретиране, тормоз, дискриминация, сексуализиране на деца или насърчаване на насилие и омраза.
Заявките за генериране на такова съдържание могат да доведат до блокиране на отговори или прекратяване на акаунта.
Обработка на лични данни
Важно е да се отбележи, че информацията, която споделяте с ChatGPT, не е напълно поверителна. OpenAI потвърждава, че може да използва потребителско съдържание за обучение и подобряване на модели на изкуствен интелект.
Ето защо никога не се препоръчва споделянето на чувствителна лична информация чрез чатботове, тъй като тя може да бъде видяна от служители на компанията или трети страни.
Потребителите могат да променят настройките си за поверителност, за да предотвратят използването на данните им за обучение на модели, но все пак е най-добре никога да не предоставят информация като истинско име, адрес, телефонен номер, потребителско име, парола или информация за банкова карта.
През 2023 г. се случи сериозен инцидент, когато Samsung забрани използването на генеративни модели с изкуствен интелект поради рискове за сигурността, след като служител сподели чувствителен код чрез платформата.
За да избегнете неприятни изненади и евентуални изтичания на данни, не споделяйте с ChatGPT нищо, което не бихте искали служителите на OpenAI да видят.












