Dario Amodei
CEO & medgrundare, Anthropic
Sammanfattning
Anthropics banbrytande forskning om Constitutional AI (CAI), en metod för att träna hjälpsamma och ofarliga AI-system med minimal mänsklig feedback. Istället för att förlita sig på tusentals mänskliga granskare använder CAI en uppsättning principer (en 'konstitution') som AI:n själv använder för att utvärdera och förbättra sina svar. Denna teknik ligger bakom Claudes säkerhetsbeteende.
Kopplade personer
Relaterade företag
Taggar
Relaterade entiteter
Refererar
Anthropic
FöretagPublished by Anthropic
Claude
VerktygRLHF/CAI techniques used in Claude
Dario Amodei
PersonLead researcher
Claude Opus 4.6
ModellCAI principles applied to Claude models
Claude Sonnet 4.6
ModellCAI principles applied to Claude models
OpenAI
FöretagContrasts with OpenAI RLHF approach
GPT-4o
ModellCompares CAI approach to RLHF used in GPT models
