Относно разширенията на GenAI

Разширенията за браузър GenAI са инструменти, които интегрират възможностите на генеративния изкуствен интелект директно в процеса на сърфиране. Това означава, че потребителите могат директно да взаимодействат с изкуствен интелект, без да напускат уеб страницата, което прави работните процеси по-бързи и по-ефективни. Тези инструменти помагат при писане, генериране на код, отговаряне на въпроси или автоматизиране на повтарящи се задачи. Те са интуитивни, лесни за използване и повишават производителността на потребителите. Те обаче могат да представляват сериозни рискове за сигурността, тъй като осъществяват достъп и предават чувствителни данни за сърфиране към външни услуги с изкуствен интелект. 

Рискове за сигурността на разширенията на GenAI

• Изтичане на данни: Директният достъп до чувствително уеб съдържание, като CRM или имейл, води до течове
• Заобикаляне на контролите за сигурност:заобикаляне на защитни стени/мрежови инструменти, които ограничават използването на GenAI
• Недостатъчни контроли за разрешения: корпоративната информация може да се обработва/използва в некорпоративни акаунти
• Неконтролирана обработка на данни: данните се обработват на отдалечени LLM системи, без организацията да знае кой има достъп до тях 
• Обучение по право (LLM): Чувствителни данни, използвани в обучението на LLM, могат неволно да бъдат запомнени и изложени на показ по време на изходните данни на модела, което води до излагане на данни.