Dagens Teknik
Inga träffar
Se alla resultat
  • Logga in
  • Nyheter
  • Världen
  • Debatt
  • Ekonomi
  • Företagande
  • Livsstil
  • Kultur
  • Politik
  • Tech
  • Appar
  • Kontakt
  • Nyheter
  • Världen
  • Debatt
  • Ekonomi
  • Företagande
  • Livsstil
  • Kultur
  • Politik
  • Tech
  • Appar
  • Kontakt
Inga träffar
Se alla resultat
Dagens Teknik
Inga träffar
Se alla resultat

Chat GPT är ett hot mot säkerheten – men det finns lösningar

Redaktionen, Dagens Teknik Av Redaktionen, Dagens Teknik
30 januari, 2023
Vem äger domänen? Så tar du reda på ägaren

Så kallade nätfiskeattacker som försöker övertyga mottagare att uppge kontouppgifter eller annan känslig information fortsätter vara ett allvarligt hot. Samtidigt kan en chattbot som Chat GPT och AI-genererad text göra att det snart går från dåligt till ännu värre. Särskilt som olika påverkansoperationer också blir enklare att genomföra när det med en liten insats går att generera trovärdigt innehåll i stor skala. Men i andra änden pågår arbetet med att ta fram verktyg för att upptäcka om ett stycke text har skapats av en maskin.

Chat GPT som utvecklats av det ideella forskningsbolaget OpenAI förväntas skapa en ny våg av AI-baserade nätfiskeangrepp. Utvecklingen går snabbt och vi läser dagligen om hur Chat GPT gjort om spelplanen genom att skapa välskriven text på bara ett ögonblick. På samma gång förväntas verktyg som med olika metoder identifierar och varnar för AI-genererat innehåll införlivas i plattformar som ska motverka nätfiske.

Ett par exempel på motmedel som är under utveckling är GPT-2 Output Detector och vattenmärkning.

I en online-demo av GPT-2 Output Detector kan användaren klistra in text i en ruta och omedelbart se sannolikheten att texten är skriven av AI. Enligt forskning från OpenAI har verktyget en relativt hög upptäcktsgrad, men behöver kombineras med metadatabaserade metoder och mänskligt omdöme för att bli mer effektivt.

Ett annat sätt att ta sig an problemet är att vattenmärka all Chat GPT-text. Enligt OpenAI-forskaren Scott Aaronson har ingenjörer redan byggt en fungerande prototyp som vattenstämplar all text som skapas av Open AI. För att klara det använder verktyget vad han kallar en ”kryptografisk pseudoslumpfunktion.” Och bara OpenAI har tillgång till nyckeln.

– Om OpenAI-ingenjörer lyckats skapa en bot som kan skriva lika bra som eller bättre än den genomsnittliga människan, så är det naturligt att de också kan skapa en bot som bättre än genomsnittet upptäcker när en text har genererats av AI, kommenterar Peter Graymon, ansvarig för Barracuda Networks i Norden.

– Just nu måste vi utgå från att nätfiskeattackerna snart kommer att öka både vad gäller volym och trovärdighet. Många digitala processer kommer sannolikt att behöva omvärderas helt enkelt därför att den nuvarande nivån av tillit inte längre är möjlig när AI-genererad text och e-post blivit ett verktyg för cyberkriminella. Möjligheterna för olika aktörer att utnyttja Chat GPT och liknande verktyg för påverkansoperationer bidrar också till att vi måste ompröva vårt sätt att ta till oss och värdera innehåll som kan se mycket trovärdigt och välskrivet ut, avslutar Peter Graymon.

Tags: Chat GPT
DelningarTweetPin
Redaktionen, Dagens Teknik

Redaktionen, Dagens Teknik

Dagens Teknik är en svensk nyhetsportal med fokus på teknik, ekonomi, företagande och entreprenörskap. Vi ger dig de senaste nyheterna från Sverige och omvärlden.

Relaterade nyheter

Uppdatera Android – så gör du
Tech

Uppdatera Android – så gör du

31 mars, 2023
Storbritannien satsar på solenergi i rymden
Tech

Storbritannien satsar på solenergi i rymden

31 mars, 2023
Kvinna som använder dator
Tech

Forrester har utsett Red Hat till en ledande aktör inom automatisering av infrastruktur

28 mars, 2023
Nanoleaf lanserar branschens första Matter-kompatibla och Thread-aktiverade smarta belysningsprodukter
Tech

Nanoleaf släpper Matter- och Thread-kompatibla belysningsprodukter

28 mars, 2023
Ladda upp batteriet på 6 minuter med ny teknik
Tech

Ladda upp batteriet på 6 minuter med ny teknik

25 mars, 2023
Ny AI kan ta fram en åldersgräns innan filmen är inspelad
Kultur

Ny AI kan ta fram en åldersgräns innan filmen är inspelad

25 mars, 2023

Annons

Köpa urval till kampanjer

Dagens Innvation Tekniknyheter

SEO byrå Stockholm

Populära nyheter

  • Bästa bank för företag – Här är vår topplista

    Bästa bank för företag – Här är vår topplista

    0 delningar
    Delningar 0 Tweet 0
  • Vem ringde? Så tar du reda på vem som ringde

    0 delningar
    Delningar 0 Tweet 0
  • Revolut-användare uppmanas fylla i skatteinformation

    0 delningar
    Delningar 0 Tweet 0
  • Zimpler i mobilen: Hur bra fungerar det egentligen?

    0 delningar
    Delningar 0 Tweet 0
  • Hur gör man en skärmdump?

    0 delningar
    Delningar 0 Tweet 0
Dagens Teknik

Dagens Teknik är en nyhetsportal om teknik och startups. Vi skriver om digitaliseringen och berättar om aktörer som förändrar näringslivet i Sverige och omvärlden.

Senaste nyheterna

  • Uppdatera Android – så gör du
  • Storbritannien satsar på solenergi i rymden
  • Telia och Region Stockholm samarbetar i banbrytande 5G-projekt

Kategorier

  • Appar
  • Debatt
  • Ekonomi
  • Företagande
  • Hälsa
  • Kultur
  • Livsstil
  • Politik
  • Pressmeddelanden
  • Resor
  • Tech
  • Världen

Redaktionell kontakt

För tips, pressmeddelanden eller annonsering kontakta oss på: redaktion@dagensteknik.se

© 2023 DagensTeknik.se. Alla rättigheter reserverade

Inga träffar
Se alla resultat
  • Alla nyheter
  • Företagande
  • Kultur
  • Ekonomi
  • Livsstil
  • Hälsa
  • Resor
  • Debatt
  • Politik
  • Tech
  • Appar
  • Världen
  • Kontakt

© 2023 DagensTeknik.se. Alla rättigheter reserverade

Logga in på Dagens Teknik

Logga in på ditt användarkonto för att hantera prenumerationer.

Glömt lösenordet?

Retrieve your password

Please enter your username or email address to reset your password.

Logga in

Vi använder cookies för att ge dig den bästa upplevelsen av Dagens Teknik. Du kan läsa mer om vilka cookies som används och hur du kan stänga av dessa i inställningarna.

Are you sure want to unlock this post?
Unlock left : 0
Are you sure want to cancel subscription?
Dagens Teknik
Privacy Overview

This website uses cookies so that we can provide you with the best user experience possible. Cookie information is stored in your browser and performs functions such as recognising you when you return to our website and helping our team to understand which sections of the website you find most interesting and useful.

Strictly Necessary Cookies

Strictly Necessary Cookie should be enabled at all times so that we can save your preferences for cookie settings.

If you disable this cookie, we will not be able to save your preferences. This means that every time you visit this website you will need to enable or disable cookies again.