ニュースから、自分の思い込みに気づく

テクノロジーと社会のニュースを、やさしい言葉で解きほぐすメディア。読み終えたとき、自分の見方が少し変わる記事を届けます。

Tag

#プロンプトエンジニアリング

AI・機械学習
2026年7月2日 17:15
Conceptual illustration of a cracked digital security barrier with text fragments flowing through gaps, representing vulnerabilities in AI content moderation systems, with a neural network structure visible in the background

ChatGPT は工夫された指示によって性的暴力的画像を生成させることが可能であると研究者が発見

研究者らは、ChatGPT のコンテンツモデレーションシステムが慎重に構築されたプロンプトを通じて体系的に回避可能であることを実証しました。文書化された手法には以下が含まれます。(1) キーワードフィルタリングの限界を悪用したプロンプトエンジニアリング、(2) 要求を段階的にエスカレートさせるマルチターン会話戦略、(3) 禁止されたコンテンツを仮説的シナリオまたは創作演習として意味的に再構成する手法です。

-- いいね数
続きを読む
Split-screen visualization comparing traditional code version control on the left with enhanced AI-augmented code lineage tracking on the right, showing interconnected lines between code segments, developer avatars, and AI model icons

問題:出所不明のAI生成コード

開発者がコードを書く際、Gitのようなバージョン管理システムは「誰が」変更を加え「いつ」加えたかを追跡する。だが、ある行が「なぜ」存在するのか、あるいは「どのAIモデル」がそれを生成したのかはほとんど記録されない。複数の開発者とAIアシスタントが同じファイルで協働する場合、この限界は深刻化する。

-- いいね数
続きを読む
Isometric illustration of an AI-powered chat interface with glowing neural network patterns connecting conversation bubbles, surrounded by floating workflow automation icons and data streams in blue and purple tones

SalesforceがAIエージェント機能を搭載したSlackボットを発表

Salesforceは、高度なAIエージェント機能を統合した強化版Slackボットを正式にリリースし、会話型自動化アーキテクチャにおける文書化された転換を示しました。この反復版は、反応的なコマンド実行を超えて、非同期ディスカッション全体にわたるコンテキスト理解を可能にします。このボットは、チャット履歴を処理し、意思決定ポイントを特定し、明示的なユーザー呼び出しなしに、議論の要約の合成やスケジュールの競合解決などの協調的なアクションを実行できます。

-- いいね数
続きを読む
TOPへ