AI Powerhouseにおける大規模言語モデルの研究において、プロンプトエンジニアリングに関する特許を取得しました。
プロンプト入力支援システム,プロンプト入力支援方法及びプロンプト入力支援プログラム
（特許第7601986号）
近年、大規模言語モデル（LLM）や大規模マルチモーダルモデル（LMM）が続々とリリースされています。しかし、種々の研究で報告されているように、プロンプトの意味に影響を与えない表記のゆれによって、モデルのパフォーマンスが大きく変化することが確認されています。このように、パフォーマンスが些細な違いで容易に変化する性質は、脆弱性として捉えられるものであり、敵対的なプロンプトの生成による悪用や、有害な表現を生成するリスクを伴います。
そこで、私たちは、期待する回答とは異なる挙動や返答を引き起こす表記のゆれを収集し、複数のLLMやLMMの回答の変動性を評価する技術を開発しました。この技術は、LLMやLMMのロバスト性を評価するものです。また、表記のゆれ、プロンプト、レスポンスの特徴量の関連性を機械学習により抽出することで、ユーザが安定的な挙動を得るための支援を提供することが可能になります。