Ett detektorresultat är en modellbedömning under vissa antaganden — inte ett forensiskt bevis. Här förklarar vi vad systemen faktiskt mäter och hur de bör användas.
De flesta AI-textdetektorer får bara se den färdiga texten. De ser inte vem som skrev, vilka verktyg som användes, hur texten redigerades eller vilka utkast som fanns. Systemet försöker därför inferera produktionssätt från statistiska och språkliga signaler.
Det är en svårare uppgift än plagiatkontroll. En plagiatkontroll kan peka på ett konkret textöverlappp mot en källa. En AI-detektor klassificerar likhet med mönster i sin tränings- eller referensdata. Två olika detektorer kan därför ge motsatta svar på samma text utan att någon av dem kan visa den faktiska skrivprocessen.
En modell tränas på exempel märkta som mänskliga eller AI-genererade. Den lär sig kombinationer av tokenmönster, syntax, stil och representationer i ett neuralt nätverk. Resultatet beror starkt på vilka människor, domäner, språk, generatorer och redigeringsgrader som fanns i träningsdata.
Vissa metoder använder sannolikheter eller rankning från en språkmodell. Perplexity, log-likelihood, tokenrankning och förändring under små perturbationer kan ge signaler om hur väl texten passar en viss generator eller modellfamilj. Signalen är modellberoende och kan brytas av nya modeller, sampling, parafrasering eller domänskifte.
Enklare system mäter exempelvis meningslängd, ordvariation, övergångsfraser, styckerytm och syntaktiska mönster. Det är transparent och pedagogiskt men särskilt riskabelt att tolka som författarskap, eftersom formell, teknisk, översatt eller andraspråksskriven text kan ha samma egenskaper.
En leverantör kan bädda in en statistisk vattenmärkning under genereringen eller lägga till signerad provenance i metadata. Det är en mer direkt signal eftersom den skapas vid källan, men den fungerar bara för stödda generatorer och kan försvagas av kopiering, omskrivning, formatbyte eller borttagen metadata.
Ett gränssnitt kan visa 87 procent, men siffran behöver inte vara sannolikheten att texten är AI-genererad. Den kan vara en rå modellpoäng som skalats till 0–100, ett tröskelbaserat index eller en sannolikhet kalibrerad på en helt annan population.
Kalibrering påverkas av basfrekvensen. Om AI-text är ovanlig i den verkliga populationen kan även en låg falsk positiv-nivå ge många felaktiga anklagelser. Därför måste man känna till både hur ofta AI-text förekommer och detektorns true-positive- och false-positive-nivå vid den valda tröskeln.
Ett enda accuracy-tal räcker inte. Ett användbart benchmark bör redovisa minst följande:
Leverantörers egna tester kan vara informativa men bör läsas som leverantörsunderlag. Oberoende och reproducerbara tester är mer värdefulla, särskilt när rådata och trösklar är öppna.
Domänskifte: en modell som fungerar på engelska studentuppsatser kan misslyckas på svenska myndighetstexter, kodkommentarer, juridik eller marknadsföring.
Nya generatorer:språkmodeller, decoding och efterbearbetning förändras snabbare än många klassificerares träningsdata.
Blandat författarskap:verkliga dokument innehåller ofta mänskliga utkast, AI-förslag, redigering, faktakontroll och återanvända formuleringar. En binär etikett beskriver inte processen.
Kort text: få tokens ger instabila signaler och stor känslighet för enstaka stilval.
Bias: forskning har visat att vissa detektorer oftare felklassificerar text från personer som skriver engelska som andraspråk. Liknande risker måste utvärderas för andra språk och grupper.
Ett robustare granskningssystem kombinerar flera typer av underlag. Detektorresultatet kan vara en svag signal. Versionshistorik, källanteckningar, utkast, skrivsession, dokumentmetadata och muntlig förklaring kan visa hur arbetet faktiskt utvecklades.
Provenance kan ge signerad information från en generator eller ett redigeringsverktyg. Avsaknad av provenance bevisar däremot inte att innehållet är mänskligt: stödet är inte universellt, metadata kan försvinna och öppna modeller behöver inte använda samma system.
Framtiden AI använder inte en tränad AI-författarskapsklassificerare. Verktyget på /detektor visar ett transparent regelbundenhetsindex från fem enkla stilindikatorer. Resultatet kallas därför inte längre AI-sannolikhet och etiketterna beskriver skrivmönster i stället för människa eller AI.
Syftet är pedagogisk stilanalys och låg-risk-reflektion. Verktyget ska inte användas för anklagelser eller beslut med konsekvenser för en person.