Изкуственият интелект заплашва сигурността на личните съобщения

Проблемите с личната сигурност на съобщенията в приложенията за съобщения са нарастваща заплаха, според индустриални лидери от платформата Session. Напредъкът в областта на изкуствения интелект (ИИ), заедно с увеличаващите се регулаторни натиски и проблемите с конфиденциалността на данните, поставят под риск бъдещето на частната комуникация.

Заплахи за личната сигурност и новите регулации

Европейският съюз активно работи за въвеждане на законодателство, което задължава сканирането на съобщения чрез т.нар. Chat Control. Такъв подход среща сериозна съпротива от страна на защитниците на правото на личен живот. Според Алекс Линтън, президент на Session Technology Foundation, изкуственият интелект представлява още по-сериозно предизвикателство. Линтън подчертава, че способността на ИИ да анализира и съхранява данни на устройства може да доведе до сериозни нарушения на личната сигурност, особено ако бъде интегриран на ниво операционна система.

Линтън предупреждава, че такова внедряване може да позволи на ИИ да заобиколи криптирането в приложенията за съобщения, което поставя чувствителна информация в риск от експлоатация.

Незнание и експлоатация на данни

В същото време Крис Макабей, съосновател на Session, акцентира на широко разпространеното незнание сред потребителите относно начина, по който техните данни се събират, съхраняват и експлоатират. Той посочва недавни инциденти, включително атаката срещу трета страна, предоставяща аналитични услуги на OpenAI, която компрометира личните данни на потребителите и увеличи риска от фишинг атаки.

Макабей подчертава, че много потребители не осъзнават как техните данни могат да бъдат манипулирани и използвани за целенасочена реклама или влияние върху поведението, често без тяхно изрично съгласие. Според него, образованието относно личната сигурност и достъпността на инструменти за защита са от решаващо значение за опазването на дигиталните права.

Подобна загриженост съществува и сред разработчиците на Session, които използват крайно криптиране и премахват идентифициращата метаданни, работейки без централизирани сървъри. Подкрепата от страна на Виталик Бутерин, съосновател на Ethereum, е символ на значимостта на тези усилия, след като той обеща $760 000 в Ether за подкрепа на инициативи, насочени към личните съобщения.

С нарастващото натоварване от регулации и напредъка на технологията на ИИ, стремежът към инструменти, фокусирани върху конфиденциалността, става все по-важен за запазването на основните права в дигиталната комуникация.