Instagram ще започне да използва изкуствен интелект, за да открива тийнейджъри, които крият възрастта си

Instagram въвежда нова система, базирана на изкуствен интелект, която ще може да открива тийнейджъри, опитващи се да скрият истинската си възраст. Алгоритъмът ще анализира снимки, абонаменти и публикации на приятели, за да определи реалната възраст на потребителя.

Както пише Блумбърг, решението се дължи на натиск от страна на родители и законодатели, загрижени за въздействието на платформата върху психичното здраве на тийнейджърите. С помощта на нов инструмент за изкуствен интелект, наречен Adult classifier (идентификатор на възрастта), Meta автоматично ще прехвърля потребители под 18 години към акаунти с по-строги настройки за поверителност, независимо от това какви данни са предоставили при регистрацията си.

Преди това Meta вече беше започнала да прехвърля потребители към акаунти за тийнейджъри въз основа на посочената от тях възраст. Новият алгоритъм обаче, който ще бъде пуснат в началото на следващата година, има за цел да идентифицира тези, които се опитват да заобиколят правилата. Междувременно потребителите на възраст 16 и 17 години ще могат сами да променят настройките за поверителност, но тийнейджърите под 16 години ще се нуждаят от родителско съгласие, за да деактивират различни ограничения. Решението беше приветствано от външни експерти, които отдавна призовават компанията да направи по-значителни промени за защита на младите потребители.

През последните години Meta се сблъска с многобройни обвинения, че всички нейни платформи допринасят за влошаване на психичното здраве на тийнейджърите. По-специално, компанията е съдена от десетки главни прокурори в различни щати на САЩ, които твърдят, че Meta съзнателно е „закачила“ деца за услугите си, което е довело до криза на психичното здраве сред тийнейджърите. Компанията е обвинявана и от родители, които твърдят, че децата им са починали от наркотици или са се самоубили заради съдържанието, което са видели, или разговорите, които са провели, използвайки продуктите на Meta. Също така през 2021 г. бившият служител Франсис Хауген разкри вътрешни документи, които показват, че Instagram може да окаже негативно влияние върху психиката на тийнейджърките.

Поради този сериозен набор от твърдения Meta реши да направи по-трудно определянето на възрастта, когато тя е посочена. Например ще се проверява съвпадащият имейл или уникалният идентификатор на устройството, от което тийнейджърът ще се опита да създаде нов акаунт. За да се потвърди възрастта, ще трябва да се предоставят и официални документи или да се провери чрез видео селфи с помощта на Yoti - инструмент за цифрова идентификация със снимка. В случай на грешка ще бъде възможно да се обжалва, но тази опция все още се разработва.