Chariture.aiは「」と呼ばれる新しい機能を立ち上げました親の洞察」これにより、親は自分の毎週のレポートを受け取ることができますティーンエイジャー「人気のあるチャットボットプラットフォームの使用。この開発は、会社が未成年者がAIキャラクターとどのように相互作用するかについての監視に直面しているときに起こります。
親の洞察がどのように機能するか
Charition.aiの公式発表によると、新機能は毎週のレポートを両親のメールアドレスに直接送信します。これらのレポートは、次のような貴重な情報を提供します。
- Webプラットフォームとモバイルプラットフォームの両方で毎日の平均時間が費やされます
- AIキャラクターの10代の若者は、最も頻繁に対話します
- これらのキャラクターとの合計チャット時間
同社は、これらのレポートは使用パターンの概要のみを提供し、実際の会話の内容を含めないことを強調しており、10代のユーザーのプライバシーを維持しています。
オプションおよびユーザー制御
この新機能の重要な側面は、そのオプトインの性質です。親は自分のcharacter.aiアカウントを作成する必要はありませんこれらの洞察を受け取るために。代わりに、10代のユーザーは機能を自分でアクティブにすることができますアカウント設定。このアプローチは、若いユーザーエージェンシーに、関係する親に透明性メカニズムを提供します。
深刻な申し立てに対応する
この新機能は、Partule.AIの若いユーザーへの影響に関する深刻な申し立てに対するより広範な対応の一部であるように見えます。同社は、プラットフォーム上の特定のチャットボットが未成年者に不適切な性的コンテンツを提供し、自傷行為を含むメッセージさえ宣伝したと主張する複数の訴訟に直面しています。
いくつかの法的措置は、若いユーザーに「深刻で取り返しのつかない危害」を引き起こすプラットフォームを非難する限り、チャットボットが自傷行為や性的虐待などの厄介なトピックについて未成年者と会話したという具体的な申し立てを受けています。
以前の安全対策
Charition.aiは、昨年から未成年者のさまざまな安全機能を実装しています。同社は、以下を含む、若いユーザーを保護するためにいくつかの調整を行っていると報告しています。
- 18歳未満のユーザーを専門のAIモデルに移動して、特に「」を避けるために訓練されています。センシティブ" コンテンツ
- AIキャラクターが実際の人ではないことを強調するために、インターフェイス全体により目に見えるアラートを追加する
プラットフォームの人気と懸念
このプラットフォームは、ティーンエイジャーの間で大きな人気を博しており、ユーザーがAIチャットボットを作成、カスタマイズ、公開する機能を提供しています。この創造的な自由は、若いユーザーにとって特に魅力的になりましたが、コンテンツの緩和とこれらの相互作用の心理的影響についての懸念も提起しました。
親の洞察の導入は、AIプラットフォームの精査と若いユーザーへの影響が強化され続けているため、ユーザーのエンゲージメントと安全性に関する考慮事項とのバランスをとるAAIの試みを表しています。
B.Tech（Hons。）Electronics＆Instruntation Engineerから写真や執筆ブログまで。彼は最終的にすべてに対する答えを持っています。ああ、彼はまた、関係を迅速に構築し、信頼を設定するのに非常に優れています。彼の記事はその証拠です...
