Все по-широкото използване на алгоритмите за изкуствен интелект, особено в предоставянето на препоръки за съдържание и продукти на потребителите, доведе до появата на нови явления в социалните мрежи. Алгоритмите на изкуствения интелект създават „пашкъли“ за ум на потребителите, насърчавайки ги да четат само съдържание, което съответства на техните виждания за живота, политиката и др.
Изследователски екип, ръководен от професор Йънг Ли от Университета в Цинхуа (KHP), публикува тази работа в списание Nature Machine Intelligence.
Учените изучават как се формират така наречените „информационни пашкъли“, в които потребителите се сблъскват само с мнения или потребители, които повтарят техните собствени гледища. Това може да представлява сериозна заплаха за развитието на критичното мислене. Авторът на тази работа, Цзинхуа Пяо, отбелязва, че широкото прилагане на алгоритмите, управлявани от изкуствен интелект, създава нови предизвикателства. Например, то може да намали влиянието на идеологични новинарски източници, мнения, политически гледища и приятелства. Това в крайна сметка може да „заключи“ хората в определена тема или гледна точка.
Според изследователите, такава технология може да има широки негативни последици, тъй като тези „пашкъли“ могат да увеличат предразсъдъците и поларизацията в обществото, да препятстват личното развитие, креативността и иновациите, да увеличат дезинформацията и да пречат на усилията за създаване на по-прозрачен свят. Тези „информационни пашкъли“ се описват като явление, при което взаимодействието с интелигентните алгоритми изолира хората от разнообразната информация и в крайна сметка ги оставя „заключени“ в една тема или гледна точка.
Въпреки това учените твърдят, че не би било честно да се обвиняват алгоритмите за изкуствен интелект или конкретните хора, тъй като тези информационни „пашкъли“ възникват от сложни взаимодействия и обмен на информация между различни субекти. Такива взаимодействия в работата на учените се делят на четири компонента: избор на база сходство – процесът, при който изкуственият интелект препоръчва съдържание, продукти или други потребители, като представя от това, което те са най-подобни на това, с което потребителят вече е взаимодействал. Това е ключовата сила, която води до създаването на „пашкъли“. Положителната обратна връзка – предоставяне на ново съдържание, отговарящо на предпочитанията на потребителя. Този процес намалява информационното разнообразие. Отрицателната обратна връзка – пречи на формирането на „пашкъли“ и избора на униформно съдържание. Случайното самоизследване – това е ситуацията, при която потребителят самостоятелно намира съдържание и нарушава алгоритмичните „пашкъли“.
Учените смятат, че стабилните информационни „пашкъли“ се формират, когато има дисбаланс между положителната и отрицателната обратна връзка, както и когато изборът, базиран на сходство, непрекъснато се увеличава. За да избегнете този капан на ум, учените съветват не само да ограничавате себе си, но и да разглеждате съдържанието, което не ви съответства, така че алгоритмите могат да създадат по-обективна картина. Те също насърчават потребителите да преглеждат често и да се самоизследват, тъй като преглеждането на нова информация ще повлияе на бъдещите препоръки от страна на алгоритъма.
