AI LAB / KEYWORD DICTIONARY

基礎知識

Computer Use(コンピューター操作)とは?

コンピューター操作は、AIが画面のスクリーンショットを認識し、クリックや文字入力などの操作を提案して、ブラウザやデスクトップ上の作業を進める仕組みです。

仕組みと使いどころ

AIは利用者の指示と現在の画面を分析し、クリック、スクロール、文字入力などのUI操作を生成します。アプリケーション側がその操作を実行し、新しいスクリーンショットをAIへ返す処理を繰り返すことで、フォーム入力、Webアプリのテスト、複数サイトを使った情報収集などを自動化できます。ただし、AIが単独で端末を直接操作する仕組みではありません。操作を受け取って実行する環境や処理ループを実装し、状態を呼び出し間で維持する必要があります。また、誤操作や不正な画面上の指示による影響を抑えるため、隔離環境での実行、操作後の画面確認、必要に応じた利用者の承認が重要です。

Computer Useの活用例

たとえば、こんな場面で

商品情報を調べる用途では、AIに検索やページ移動を行わせ、画面から価格やレビューを確認させる使い方が考えられます。入力フォームへの転記や、Webサービスの操作手順を確認するテストにも利用できます。

使うときのポイント

導入時は、対応する操作と対象環境を明確にし、スクリーンショットによる結果確認を組み込みます。重要な送信や変更は自動実行せず、利用者の確認を挟む設計を検討してください。

参考資料

Computer use | OpenAI API (新しいタブで開きます)Computer use  |  Gemini API  |  Google AI for Developers (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る