Конституционен ИИ

Конституционният ИИ (Constitutional AI) е метод за обучение на модели, популяризиран от компанията Anthropic. При него на ИИ модела се предоставя набор от принципи или "конституция" (например "бъди полезен, честен и безобиден"), по които той сам трябва да оценява и коригира своите отговори. Този процес минимизира нуждата от пряка човешка намеса при RLHF и позволява на моделите да се саморегулират въз основа на етични и логически рамки, зададени от техните създатели.