Stały wzrost oszustwa cyfrowe i wyłudzenia Cyberprzestępczość w mediach społecznościowych i komunikatorach zmusiła duże firmy technologiczne do znacznego wzmocnienia zabezpieczeń. Coraz częściej cyberprzestępcy próbują kraść konta, dane bankowe lub podszywać się pod znane marki za pośrednictwem wiadomości, reklam i kontaktów, które na pierwszy rzut oka wydają się nieszkodliwe.
W tym kontekście, Meta wzmacnia swoją strategię bezpieczeństwa dzięki nowej generacji Sztuczna inteligencja zapobiegająca oszustwom stosowana na Facebooku, WhatsAppie i MessengerzePodejście jest jasne: ostrzec użytkownika, zanim wpadnie w pułapkę, zminimalizować narażenie na szkodliwą treść i maksymalnie utrudnić życie oszustom działającym na swoich platformach.
Sztuczna inteligencja zapobiegająca oszustwom, która wyprzedzi oszustwa na platformie Meta
Meta wdraża zestaw funkcji, które łączą sztuczna inteligencja na samym urządzeniu i analiza na zdalnych serwerachTaka architektura umożliwia z jednej strony przestrzeganie kompleksowego szyfrowania w usługach takich jak WhatsApp i Messenger, a z drugiej strony oferuje dodatkową warstwę zaawansowanego wykrywania w sytuacji, gdy użytkownik zdecyduje się przesłać podejrzane treści do sprawdzenia.
Narzędzia te opierają się na modelach zdolnych do analizy tekst, obrazy, linki i wzorce zachowańCelem jest identyfikacja wszystkiego, od fałszywych reklam, które bez pozwolenia wykorzystują twarze gwiazd, po wiadomości „pomocy technicznej” mające na celu wyłudzenie kodów weryfikacyjnych, a także próśb o dodanie do znajomych wysyłanych z fałszywych kont w celu zdobycia zaufania ofiary.
Według danych udostępnionych przez firmę problem nie jest bez znaczenia: Meta twierdzi, że zakłócił działanie milionów kont i reklam powiązanych ze zorganizowanymi sieciami oszustw na Facebooku, Instagramie i WhatsAppie, w niektórych przypadkach powiązane z prawdziwymi ośrodkami oszustw zlokalizowanymi w kilku krajach.
Ta ofensywa technologiczna opiera się również na pracy zespołów recenzentów pracujących ramię w ramię ze sztuczną inteligencją, dzięki czemu modele są trenowane na prawdziwych przykładach, a margines błędu w klasyfikacji wątpliwych treści zostaje zmniejszony.
WhatsApp: zapora sieciowa chroniąca przed przechwytywaniem kont i podejrzanymi grupami
W przypadku WhatsAppSztuczna inteligencja firmy Meta, chroniąca przed oszustwami, koncentruje się na kilku szczególnie powszechnych wektorach ataków: przejęcie konta poprzez łączenie urządzeń, oszustwa związane z pomocą techniczną i wyłudzenia w nieznanych grupach.
Jedną z kluczowych nowych funkcji jest system Otrzymuje alert, gdy ktoś próbuje połączyć konto z nieznanym urządzeniem.W przypadku wykrycia podejrzanego żądania aplikacja wyświetla informacje, takie jak lokalizacja, z której pochodziło żądanie, wraz z wyraźnym ostrzeżeniem, że może to być próba oszustwa. Pozwala to użytkownikowi zatrzymać proces, zanim osoba trzecia uzyska pełny dostęp do jego rozmów.
Sztuczna inteligencja interweniuje również w sytuacjach udostępnianie ekranu podczas rozmów wideo z nieznanymi kontaktamiGdy system wykryje ten wzorzec ryzyka, automatycznie wyświetla ostrzeżenie, ponieważ wiele oszustw związanych z „pomocą techniczną” polega na oglądaniu ekranu użytkownika na żywo w celu przechwycenia danych logowania do banku, jednorazowych kodów lub innych szczególnie poufnych informacji.
Co więcej, grupy, do których dołączają użytkownicy, nie wiedząc wiele o swoich członkach, teraz pokazują panel bezpieczeństwa zapobiegawczegoW tym panelu znajdziesz szczegółowe informacje o grupie, wskazówki dotyczące wykrywania prób oszustwa oraz opcję opuszczenia grupy bez interakcji, wyciszając powiadomienia do momentu, aż użytkownik potwierdzi chęć pozostania.
Meta również testuje Alerty kontekstowe w przypadku rozpoczynania rozmów z numerami, których nie ma w książce adresowejJeśli system rozpozna typowe oznaki phishingu, fałszywe inwestycje lub niejasne prośby o pieniądze, zaleca zachowanie szczególnej ostrożności i oferuje możliwość zablokowania lub zgłoszenia za pomocą kilku kliknięć.
Facebook: kontrola próśb o dodanie do znajomych i fałszywych stron „wsparcia”
En FacebookSztuczna inteligencja zabezpieczająca przed oszustwami ma dwa główne obszary działania: podejrzane prośby o dodanie do znajomych oraz witryny podszywające się pod działy obsługi klienta lub uznane marki.
Po otrzymaniu prośby o dodanie do znajomych platforma może wyświetlić ostrzeżenie, jeśli wykryje czynniki ryzyka: konta z niewielką liczbą wspólnych znajomych, niedawno utworzone profile, pochodzenie geograficzne niezgodne z siecią użytkownika lub zachowania pasujące do wzorców kojarzonych z sieciami botów. W ten sposób użytkownik może… lepiej ocenić, czy zaakceptować, zignorować czy zablokować prośbę zanim otworzysz drzwi potencjalnemu oszustowi.
Kolejnym istotnym punktem jest fałszywe strony pomocy technicznej i konta które próbują oszukać użytkowników szukających pomocy w odzyskaniu konta lub rozwiązaniu problemu. Meta twierdzi, że podjęła działania przeciwko dziesiątkom tysięcy takich stron, które zazwyczaj żądały danych logowania, dokumentów tożsamości lub płatności w celu „przyspieszenia” rzekomych procesów odzyskiwania.
Firma wzmacnia również swoje mechanizmy Weryfikacja reklamodawców i wykrywanie fałszywych reklamDotyczy to osób, które bez zezwolenia wykorzystują wizerunki celebrytów, biznesmenów lub osób publicznych. Sztuczna inteligencja porównuje twarze i identyfikuje powtarzające się manipulacje służące legitymizacji fałszywych inwestycji, nieistniejących promocji lub produktów, które nigdy nie docierają.
Ten punkt jest szczególnie wrażliwy dla firm i twórców treści w Hiszpanii i pozostałych krajach Europy, gdzie reklamy wykorzystujące wykorzystywanie wizerunku przedsiębiorców lub znanych lokalnych osobistości w celu przyciągnięcia ofiarpowodując zamieszanie i uszczerbek na reputacji, który trudno naprawić.
Messenger: konfigurowalna przez użytkownika funkcja wykrywania oszustw
Aplikacja do przesyłania wiadomości połączona z Facebookiem, Messenger, zawiera określoną funkcję zwaną „Wykrywanie oszustw”Ta opcja, dostępna w ustawieniach prywatności i bezpieczeństwa, umożliwia szczegółową analizę rozmów inicjowanych przez nieznane kontakty. Po aktywacji funkcja ta zapewnia bardziej szczegółową analizę rozmów.
Sztuczna inteligencja koncentruje się na charakterystyczne wzory fałszywych ofertNależą do nich: oferty pracy zdalnej z żądaniem płatności z góry, inwestycje z gwarantowanym zyskiem, pilne wiadomości z prośbą o pieniądze lub próby podszywania się pod personel wsparcia znanych firm. W przypadku wykrycia czegoś nietypowego, wyświetla alert wskazujący rodzaj zagrożenia i sugeruje zablokowanie lub zgłoszenie nadawcy.
Po uzyskaniu wyraźnej zgody użytkownika oznaczone wiadomości mogą być wysyłane w poszczególnych przypadkach do Metaserwery do głębszej analizy AITen krok tymczasowo przerywa szyfrowanie typu end-to-end tylko dla określonej treści. Każda osoba musi podjąć decyzję na podstawie swojej tolerancji ryzyka i obaw dotyczących prywatności.
Równocześnie Messenger udoskonalił swój system ochrona łączaFunkcja bezpiecznego przeglądania, która wcześniej analizowała adresy URL na samym urządzeniu, opiera się teraz na dodatkowej warstwie zwanej zaawansowaną ochroną, połączoną z stale aktualizowane listy z niebezpiecznych witryn. Celem projektu jest blokowanie dostępu do stron phishingowych lub pobierania złośliwego oprogramowania bez ujawniania tożsamości użytkownika ani całej historii przeglądania.
W przypadku zespołów wsparcia, sprzedaży lub obsługi klienta, które regularnie korzystają z Messengera, te ulepszenia oznaczają zarówno Dodatkowa bariera przed oszustwami wymierzonymi w Twoją markę jako nieco bezpieczniejsze środowisko dla użytkowników, z którymi wchodzą w interakcje na co dzień.
Sztuczna inteligencja pod maską
Nowe funkcje bezpieczeństwa Meta opierają się na architekturze hybrydowej, która łączy dwa uzupełniające się podejścia. Pierwsze to analiza na urządzeniuDziała bezpośrednio na telefonie komórkowym lub komputerze użytkownika i respektuje pełne szyfrowanie, ponieważ nie wymaga wysyłania treści do zewnętrznych serwerów w celu wykrycia wzorców ryzyka.
Ta lokalna analiza skupia się na sygnałach takich jak fakt, że odbierać wiadomości z niezapisanych numerówNależą do nich próby udostępniania ekranu nieznajomym, nagłe zmiany w zachowaniu konta lub pojawianie się linków pasujących do poprzednich zgłoszeń oszustw. Operując bezpośrednio na urządzeniu, zmniejsza się ilość danych przesyłanych na zewnątrz, zapewniając natychmiastową pierwszą linię obrony.
Druga warstwa jest aktywowana, gdy użytkownik zdecyduje się na jej użycie. Wysyłaj treści do recenzji, korzystając ze sztucznej inteligencji w chmurzeW tym przypadku oznaczone wiadomości lub elementy są przetwarzane przez systemy Meta, które wykorzystują bardziej złożone modele do oceny, czy sytuacja pasuje do znanego rodzaju oszustwa. Jeśli analiza wykaże istnienie ryzyka, platforma wyświetla wyjaśnienia dotyczące potencjalnego oszustwa i zaleca konkretne działania.
Firma podkreśla, że oprócz sztucznej inteligencji istnieją zespoły moderujące treści, które codziennie przeglądają miliony treściTo właśnie ludzki czynnik pozwala między innymi na udoskonalanie modeli, zarządzanie najbardziej delikatnymi przypadkami i rozmontowywanie zakrojonych na szeroką skalę skoordynowanych kampanii wykraczających poza proste, odizolowane komunikaty.
Cały ten mechanizm uzupełniają porozumienia z siłami bezpieczeństwa i innymi podmiotami z sektora technologicznego. Mają one na celu wymianę informacji wywiadowczych na temat złośliwych domen, sieci fałszywych kont i nowych taktyk stosowanych przez organizacje przestępcze.
Główne rodzaje oszustw, które sztuczna inteligencja Meta próbuje powstrzymać
Metaplatformy są siedliskiem szeroka gama oszustw cyfrowychNowe narzędzia mają na celu wykrywanie i powstrzymywanie m.in. następujących rodzajów powszechnych oszustw, których ofiarami padają użytkownicy w Hiszpanii i Europie:
- Oszustwa związane z fałszywym wsparciem technicznym: Osoby podszywające się pod pracowników obsługi klienta banku, operatorów, a nawet samą platformę Meta, aby uzyskać kody weryfikacyjne, hasła lub zdalny dostęp do urządzenia.
- Oszustwa związane z udostępnianiem ekranu: rozmowy wideo, podczas których oszust namawia ofiarę do pokazania ekranu w celu przechwycenia danych bankowych, wiadomości SMS z jednorazowymi kodami lub danymi uwierzytelniającymi do usług takich jak bankowość internetowa lub bramki płatnicze.
- Nieistniejące oferty pracy i stypendia: Ogłoszenia lub prywatne wiadomości obiecujące łatwą lub dobrze płatną pracę w zamian za początkową opłatę za „procedury” lub za podanie poufnych danych osobowych.
- Schematy inwestycyjne i kryptowaluty: kampanie obiecujące szybkie i gwarantowane zyski, często wspierane nieautoryzowanym wykorzystaniem znanych osób lub znanych biznesmenów.
- Linki phishingowe i złośliwe: Adresy URL imitujące legalne portale — banki, platformy handlu elektronicznego, usługi publiczne — w celu kradzieży danych uwierzytelniających lub zainstalowania złośliwego oprogramowania na urządzeniu.
Połączenie automatycznego monitorowania, czarnych list niebezpiecznych witryn i mechanizmów zgłaszania użytkowników umożliwia System szybko dostosowuje się do nowych odmian tych oszustw.które często mutują, aby uniknąć łatwiejszego wykrycia.
Wpływ na użytkowników, firmy i założycieli korzystających z Meta
Oprócz ochrony przeciętnego użytkownika nowe funkcje sztucznej inteligencji zapobiegające oszustwom mają bezpośredni wpływ na Firmy, które wykorzystują Facebooka, WhatsApp i Messengera jako podstawową infrastrukturę do sprzedaży, obsługi klienta lub budowania społeczności.
Z jednej strony, jeśli firma korzysta z WhatsApp Business lub Messengera do komunikacji z klientami, Ich wiadomości mogą spowodować wygenerowanie alertu, jeśli system uzna je za podejrzane.Na przykład poprzez dodawanie wielu linków lub żądanie podania poufnych danych. Wymaga to przeglądu scenariuszy, tonu i częstotliwości, aby zminimalizować liczbę fałszywych alarmów i utrzymać zaufanie odbiorców.
Z drugiej strony startupy działające w szczególnie wrażliwych sektorach, takich jak fintech, zdrowie cyfrowe lub usługi prawne— narzędzia te dostarczają im jasnego sygnału: bezpieczeństwo oparte na sztucznej inteligencji nie jest już „dodatkiem”, lecz stanowi obecnie element minimalnych oczekiwań wobec każdego produktu lub usługi, która przetwarza krytyczne dane.
Rozwijająca się współpraca Meta z innymi podmiotami technologicznymi i organami publicznymi otwiera również drzwi do Nowe możliwości dla firm specjalizujących się w cyberbezpieczeństwie, które mogą integrować swoje rozwiązania z ekosystemami wykrywania zagrożeń dużych platform lub świadczyć usługi doradcze mniejszym firmom.
Ostatecznie skuteczność tych środków zależeć będzie od tego, czy zarówno użytkownicy, jak i organizacje zastosują dobre praktyki: aktywują dostępne funkcje ochrony przed oszustwami, aktualizują aplikacje, zachowują ostrożność w przypadku niechcianych wiadomości i zgłaszają wszelkie podejrzane zachowania systemom wykrywania kanałów.
Wraz z wdrożeniem nowego Sztuczna inteligencja chroniąca przed oszustwami na Facebooku, WhatsAppie i MessengerzeMeta podejmuje ważny krok w kierunku stworzenia środowiska cyfrowego, które będzie nieco trudniejsze dla oszustów i nieco bezpieczniejsze dla tych, którzy codziennie korzystają z jej usług – od użytkowników indywidualnych po firmy, dla których Meta stanowi istotną część ich działalności.
