Character.ai、モデレーション異議申立とブロック機能を追加──安全性強化の内容を整理

Character.aiは2026年9月4日、安全性に関する取り組みをまとめた公式発表を行いました。今回の更新では、クリエイター向けのモデレーション通知・異議申立機能や、ユーザーを丸ごと遮断できるブロック機能が新たに加わっています。未成年の子どもに利用させている保護者にとっては、見守り機能の改善点も含まれる内容です。

モデレーション通知と異議申立:何が変わり、クリエイターは何ができるようになるか

公式発表によると、投稿したキャラクターや作品がモデレーションの対象になった場合、クリエイターにその理由が通知されるようになりました。あわせて、判断に納得できない場合は異議を申し立て、運営チームに再確認してもらう仕組みも用意されています。従来どの程度の説明があったかは素材からは確認できませんが、理由が分かる点と再審査の道がある点は明確な変化です。

ユーザー・キャラクター・投稿を丸ごと遮断できる新ブロック機能

ユーザーは他のユーザーを、そのユーザーが作ったキャラクター・投稿・ボイス・シーンとまとめて検索や発見ページ、プロフィールから除外できるようになりました。ブロックは双方向に適用されるとのことです。

自傷検知の進化とKoko・ThroughLineとの連携が意味すること

公式発表では、自傷のサインを一度のメッセージだけでなく、長く続く会話全体から読み取る仕組みを継続的に改善しているとしています。非営利団体Kokoとの提携で自己解決型の心のサポート情報を提供し、ThroughLineの協力により各国の相談窓口へつなげる取り組みも進めているそうです。

18歳未満向けage assurance技術とParental Insightsの改善点

年齢を見極める独自技術「age assurance」と年齢推定モデルの精度向上を進めているとのことです。またk-IDとの提携により、保護者のメールアドレスが登録済みの未成年ユーザーについては、利用状況を確認できるParental Insightsと週次のメール通知が改善されました。

IWF・StopNCII加盟で広がる安全体制の外部連携

児童性的虐待コンテンツ対策のInternet Watch Foundation、非同意画像対策のStopNCIIといった外部団体への加盟も明らかにされています。なお料金プランへの言及は公式情報になく、今回の変更が有料プランの条件に影響するかは不明です。当サイトでは実機での動作確認は行っていません。

出典

公式発表（発表日: 2026年9月4日）

この記事はAIツールギャラリーがCharacter.AIの公式アップデート情報をもとに自動生成しています。

詳しくはCharacter.AIの詳細ページをご覧ください。