Constitutional AI: Harmlessness from AI Feedback
Yuntao Bai, Saurav Kadavath, Sandipan Kundu, Amanda Askell, Jackson Kernion, Andy Jones, Anna Chen, Anna Goldie, Azalia Mirhoseini, Cameron McKinnon, et al. — arXiv preprint (2022)
Dario Amodei är medgrundare och VD för Anthropic, företaget bakom Claude-modellerna. Tidigare var han VP of Research på OpenAI innan han grundade Anthropic 2021 med sin syster Daniela Amodei. Han är en ledande röst inom AI-säkerhet och har drivit utvecklingen av Constitutional AI — en metod för att göra AI-system mer pålitliga och etiska. Under hans ledarskap har Anthropic blivit ett av de ledande AI-företagen med fokus på ansvarsfull AI-utveckling.
Jared Kaplan, Sam McCandlish, Tom Henighan, Tom B. Brown, Benjamin Chess, Rewon Child, Scott Gray, Alec Radford, Jeffrey Wu, Dario Amodei — arXiv preprint (2020)
CEO
Anthropic