“Сьогодні ми одружилися, але ніхто нас не привітав”. Чому штучний інтелект заполонив соцмережі та чим це небезпечно

Не секрет, що у соцмережах все активніше і частіше просувається контент, створений штучним інтелектом. 

У певних випадках, цей інструмент допомагає спростити роботу, або скреативити у чомусь. Відповідальні сторінки зазвичай позначають контент, який був згенерований завдяки ШІ.

Інша сторона медалі - різні акаунти, які завдяки фото та відео, зроблені штучним інтелектом, просувають свої сторінки.

Напевно, усі бачили ті самі “фото” зроблені завдяки ШІ, з яких на нас дивиться пара військових, які “щойно одружились”, або маленькі діти, які у свої шість місяців вже “танцюють”, чи літні люди, які “потребують нашого лайка” тощо. Багато підробної інформації є нічим іншим, окрім бажанням зіграти на емоціях задля своєї вигоди.

Ми поспілкувалися з представниками кіберполіції, які підтвердили, що останнім часом кількість контенту, що продукується завдяки штучному інтелекту, значно зросла.

“Ми помічаємо, що створено багато нових сторінок від імені військових. На сторінки виставляють фотографії наче українських захисників (які насправді не є справжніми), а люди, які не мислять критично, лайкають і шерять ці картинки. Алгоритми фейсбуку помічають, що цей контент є популярним, і просувають його далі”, - розказує інспектор відділу протидії кіберзлочинам Тарас Мочернюк.

Скрін картинки з фейсбуку, ШІ

В основному це робиться для того, щоб розкрутити сторінку, набрати підписників, зробити так, щоб алгоритми соцмереж просували дописи.

При цьому в кіберполіції не відкидають і того варіанту, що за подібним можуть стояти російські пропагандисти, які у такий спосіб набирають підписників, щоб потім публікувати необхідну для них інформацію на цю авдиторію. Таким чином вони мають вже сформовану авдиторію людей, які некритично ставляться до інформації, що підкидають їм соцмережі. А це призводить до того, що українці поглинають пропаганду, або вигідні ворогу маніпуляції.

Ситуацію з картинками ШІ, якими так рясніють деякі групи у соцмережах, досліджували різні організації, що займаються медіаграмотністю та фактчекінгом.

Так, наприклад, у своєму матеріалі “По той бік новин” промоніторили спільноти у Facebook, де публікують такий контент. Їх усі об’єднувало використання показного патріотизму та української національної символіки. Навіть назви  – “Моя Україна”, “Серце України”, “Україна – це ти” тощо. Більшість створено у 2022-2023 роках.

Також інформаційна кампанія з медіаграмотності та фактчекінгу заявила про те, що головними цілями цих сторінок є популяризація та збір реакцій від користувачів, а згодом - використання цієї авдиторії для “шкідливої” реклами.

“Також ці групи можуть використовуватися для поширення пропагандистських наративів: серед патріотичного контенту вряди-годи з’являтиметься інформація, яка розхитуватиме українське суспільство. Якщо люди поширюють псевдофото військових, піддавшись емоціям, то так само вони можуть поширювати чутки та іншу неперевірену інформацію”, - говорять в дослідженні.

По факту це підтверджує припущення кіберполіції, про яке ми розповідали вище.

Про те, що ці сторінки у соцмережах може використати росія в інформаційній війні проти України, повідомляли і в Центрі протидії дезінформації. 

Це пов’язано із тим, що на сторінках з ШІ-зображеннями збирається велика авдиторія, яка не надто критично ставиться до побаченого у мережі та сприйнятлива до інформаційних маніпуляцій.

Таким чином ворог отримує майданчик для просування небезпечних для України наративів. 

Так само ці сторінки вважає небезпечними Альона Романюк - медіаекспертка,  фактчекерка, та засновниця антифейкової спільноти “НотаЄнота”.

У коментарі нашій редакції Альона зазначила, що головна причина поширення цього контенту - таргетувати авдиторію, визначити вразливих до конкретного типу інформації. Якщо звертати увагу, то легко помітити, що ці картинки ШІ досить часто мають цілком собі зрозуміле розділення на теми: військові, діти, одруження, день народження.

“Це все робиться для того, щоб зрозуміти, які люди взаємодіють з яким типом контенту. З одного боку, йде розкрутка груп і сторінок, які модеруються з Вірменії, Індонезії, В’єтнаму та інших країн. І ми розуміємо, що модеруються вони росіянами. З іншого боку - визначають вразливості авдиторії. До якого контенту люди більш чутливі? Як це потім будуть використовувати? Ймовірно, що через такий контент можуть закидати конкретний тип фейків і маніпуляцій”.

Чому активно почали з’являтися сторінки, які використовують ШІ? Бо він дуже сильно “здешевив” виробництво контенту. Цей контент виробляється дуже швидко і дуже дешево. Не потрібно додаткових вливань коштів, додаткових людей, додаткової роботи.

Скрін з фейсбуку, ШІ

Як ми розуміємо, що це інформаційний вкид? Перш за все, це те - в якій групі ми це побачили, з іншого - який підпис до цього. Дуже часто ці підписи мають недолугий переклад, або використовують слова, які рідко вживають в українській мові. Дуже часто “паляться” на українській. Також звертаємо увагу на те, коли було оприлюднено цей контент та кількість лайків та коментарів під ним.

Російську авдиторію, або ботів, якщо такі реагують на цей пост, досить легко побачити у соцмережі. Інша проблема - українці, які “здають в оренду” свої сторінки. Тому під подібним контентом залишають коментарі з акаунтів справжніх користувачів. Таким чином верифікувати, чи це справжній контент, чи підроблений - вже складніше. 

“Це несе небезпеку. Якщо це настільки масово використовують, значить це вигідно. Питання у тому, коли воно вистрелить саме для нас, для українців. І в якому контексті? Такі групи вже закидають фейки, вкиди про “не все так однозначно” і “нас зливають”. Але питання у тому, коли це буде посилюватись? А посилюватись воно буде - 100%. 

При цьому, частина контенту так і залишиться з картинками, привітаннями, рецептами, молитвами, але буде 1-2 пости, які будуть чітко відігравати потрібний “акорд”, який стосуватиметься або мобілізації, або влади, або соціальної допомоги, або енергетики. Залежатиме від того, що саме потрібно буде атакувати росіянам, яку сферу розхитувати”.

Але чому люди звикли так довіряти соцмережам, що не помічають межі між штучним інтелектом та справжніми фото. Це стосується критичного мислення, чи бажання бути долученим?

Про це ми поговорили з психологинею та психотерапевткою Ольгою Приходько.

***

Соціальні мережі вже давно несуть не тільки функцію спілкування. Найбільш розповсюджені потреби, які можна реалізувати в мережі - це потреба у визнанні, потреба у підтримці та співчутті, у знятті напруги і в отриманні уваги.

“Через це все у людей може складатись картинка стерильного та ідеального життя. Зараз побільшало запитів від клієнтів «Ось ця блогерка, вона крута, а я якась не така, не правильна». І доводиться витрачати багато часу для того, щоб у картинку сприйняття увійшла реальність (з поразками, відсутністю великих цілей, з іншими пріоритетними), а не ідеальність. Це прям нова хвороба сьогодення”, - ділиться психологиня. 

Коли нам не вистачає емоцій у житті, ми їх шукаємо в оточенні. Воно зараз дуже вразливе. Через це різний контент може стати тригером, на який ми дуже швидко реагуємо. 

Є такий захисний механізм психік, який зливає нас з історією в соціальних мережах, і якщо ми не маємо чітких кордонів та не вміємо відокремлювати «це моя історія», «це не моя історія», ми “ведемося” на цей «трюк», - пояснює Ольга. 

Якщо говорити про часи війни, треба розуміти, що багато людей стикаються з почуттям провини або сорому за своє життя. Це нормальне для психології явище.

Коли хтось захищає країну в окопах або голодає через втрату дому, інші можуть відчувати внутрішній конфлікт через те, що продовжують жити порівняно спокійним і комфортним життям. 

“Наприклад, коли ви п'єте каву в кав'ярні або відпочиваєте в теплому ліжку, виникає думка: "Чому я можу собі це дозволити, коли інші страждають?"

Щоб зменшити напругу від таких почуттів, люди намагаються долучатися до «великих справ». Це може бути активне поширення інформації або волонтерська діяльність. У нашому випадку нас цікавить ця залученість через поширення.

Поширення важливого контенту дає відчуття причетності, полегшує емоційний тиск і допомагає відчути, що ви робите свій внесок у спільну боротьбу.

Крім того, у кожного є свої «тригери», пов'язані з власними психологічними травмами. Наприклад, людина, яка нещодавно втратила когось із близьких, може знижувати свій рівень горя через поширення інформації про літніх людей. 

“Коли ми шеримо цей контент, то можемо відчувати полегшення замість провини. Або задоволення, від причетності до «великої справи”, - впевнена психологиня. 

Це про критичне мислення загалом?

Дуже просто пояснювати ці “поширення” відсутністю критичного мислення у людей. Але якщо враховувати кількість охоплення, лайків і шерів таких матеріалив, то невже всі ці люди не мають критичного мислення.

“Коли ми знаходимося в стані злиття, ми не можемо критично мислити. Ми зливаємося з історією, емоціями, героями. Для того, щоб «відлипнути», треба піддати це сумніву. А піддати сумніву історію зі старичками або військовими, це ж жахливо для багатьох. 

“Як я так можу подумати, що ця історія несправжня?”, “Я бачу фото окопу і військового, а я лежу під мʼякенькою ковдрочкою…як можна думати, що такого не може бути?”.

Для того, щоб мати критичне мислення, треба навчитися бути в контакті зі своєю агресією. Не тією, від якої “тарілки бʼються, і скандали кояться”. А тією, завдяки якій можна піддавати речі сумніву чи критиці. Треба розвивати навичку відштовхувати, відмовляти.

“А в нашому суспільстві “наздогнати та причинити добро”, “врятувати” - це одна з провідних цінностей. Тому критичне мислення доступне лише тим, хто може користуватися своєю частиною здорової агресії”, - пояснює Ольга.

Тобто, люди, які “ведуться” на такі пости, можуть стати потенційними споживачами пропагандистської інформації. Але і тут важливо розуміти, що не все, що зроблене штучним інтелектом, є маніпуляцією. Насправді зараз багато контенту, який відкрито позначають таким, що був згенерованим ШІ, несе розважальну мету. 

Але питання маніпулятивних картинок залишається відкритим, адже дуже багато людей вважає за необхідне поділитися цікавою інформацією, навіть не задумуючись, чи є вона правдивою.

На останок додамо декілька рекомендацій від 6262, як розпізнати фото, які були зроблені через ШІ. 

• Звертати увагу на деталі. 

Дуже часто фото, згенеровані штучним інтелектом можуть містити різні “ляпи”. Звертаючи увагу на деталі, це можна легко помітити.

• Пропорції тіла. Увага на руки.

ШІ часто помиляється, генеруючи зображення людей. Де-не-де можуть з’явитися шості пальці на руках, або непрапорційні риси обличчя чи самого тіла. Рука, яка береться нізвідки, або ноги різних розмірів.

• Текстури і фон.

Світло і тіні на зображеннях, створених штучним інтелектом, можуть виглядати неприродно, неправильно передаючи взаємодію світла з об'єктами у реальності. До того ж, ШІ складно відтворити випадковість і природну складність навколишнього середовища, що може виражатися у надто ідеальних, часто повторюваних візерунках або текстурах. ШІ часто має тенденцію або перебільшувати, або применшувати кольори, що призводить до надто яскравих або неприродно приглушених зображень. 

• Помилки з аксесуарами, пікселями, шевронами.

ШІ погано розбирається у наших відмінних знаках. Тому на картинках з українським прапором, гербом чи військовими шевронами багато чого може піти не так. 

• Звертайте увагу на підпис до картинки чи “фото”.

Окремо варто звертати увагу на підпис, який супроводжує картинку. Зазвичай до таких “фото” роблять однакові, схожі підписи, які закликають ставити лайки, ділитися цим контентом.

Робота над цим матеріалом стала можливою завдяки проєкту Fight for Facts, що реалізується за фінансової підтримки Федерального міністерства економічного співробітництва та розвитку Німеччини.