Azure OpenAIの各デプロイメントタイプ はじめに Azure OpenAIでは、モデルをデプロイするときに5つのデプロイメントタイプを選択することができます。 この記事では、Azure OpenAIのそれぞれのデプロイメントタイプについて紹介します。 Azure OpenAI のデプロイメントタイプ Azure Open AIでは、以下の5つのデプロイメントタイプが存在します。 Standard Provisioned Global Standard Global Provisioned Global Batch Azure公式ドキュメント: Azure OpenAI デプロイメントタイプ Azure公式ドキュメント: Azure Open価格 Standard Standardは、Azure OpenAIのサービス開始当初からあるデプロイメントタイプです。 モデルのデプロイ時に設定したTPM(1分当たりのトークン数)を処理上限として、APIのコール時に使用したトークン数に応じて従量課金される形式になっています。 データを処理するリージョンは、作成したAzure OpenAIリソースのリージョンで固定されるため、データを処理する所在地の指定があるリージョンでの利用に適しています。 Azure公式ドキュメント: Azure OpenAI デプロイメントタイプ Provisioned Provisionedは、月間または、年間通して使用するスループット(PTU: Provisioned Throughput)を事前予約することができるデプロイメントタイプ。 事前にモデルの処理可能量にあたるPTUを購入することで、以下のメリットが得られます。 Azure公式ドキュメント: Azure OpenAI Provisioned Throughput 一貫したレイテンシ: レートリミットによる429エラーの発生が抑止され、応答時間が安定する コストの削減: 月間または、年間通しての利用により従量課金よりも安いコストでOpenAIを利用できる デメリットとしては、 未使用時のコストの増加: 事前にPTUを購入するため、使用量が少ない場合にもコストが発生する Azure OpenAIのモデルバージョンごとに、購入できるPTUの単位や、PTU当たりの処理能力(単位時間当たりで何トークン処理できるかなど)は異なります。 PTU当たりの処理能力や、PTU当たりの料金はドキュメントに記載がないが、Azure OpenAI Studioのモデルのデプロイの画面から、 プロンプトトークン、生成トークン、1分当たりのピーク時のリクエスト数から必要な推定PTUを算出と価格の確認が可能です。 Global Standard/Provisioned Globalデプロイメントは、Azure基盤側でAzure Open AIへの各リクエストを最も可用性の高いリージョンのデータセンターにルーティングすることで、 通常のデプロイメントタイプよりも高い可用性を提供するデプロイメントタイプ。

2024年岡山ITニュースまとめ はじめに 2024年の岡山県の県内のシステム会社の動向や、ITに関連した主なニュースについてまとめました。 エンジニアや、就職活動中の学生の方の参考になれば幸いです。 2024年主要イベント年表 日付 ジャンル 会社・団体 イベント 2024/01/09 経営情報 セリオ様 ファジアーノ岡山の2024シーズン ユニフォームスポンサー決定 2024/01/09 経営情報 両備システムズ様 ファジアーノ岡山の2024シーズン アップウェアスポンサー決定 2024/01/25 リリース 岡山大学様 生成AIチャットボットによる介護保険説明で理解をサポート 2024/01/26 リリース トスコ様 RFIDを活用して人件費削減・社内DX化 2024/01/25 経営情報 両備システムズ様 「中期経営計画2024～2026」を発表、2026年に売上高446億円を目指す 2024/02/23 - 2024/03/09 キャンペーン オーユーシステム様 【2月23日～ 3月9日】ベトコンラーメン倉敷新京が特別メニューを提供 2024/02/27 リリース ベネッセホールディングス様 ベネッセ幼児向け会話型 AI「しまじろう」を共同開発 2024/03/01 経営情報 セリオ様 本社移転プロジェクト開始 2024/03/11 リリース ベネッセホールディングス様 生成AIによる自己PR作成支援サービスを2024年3月11日（月）より提供開始 2024/03/12 経営情報 セリオ様 経済産業省「健康経営優良法人2024（中小規模法人部門）」に認定 2024/03/18 経営情報 ピープルソフトウェア様 株式会社フォーバルとGDXで業務提携 2024/03/25 経営情報 両備システムズ様 両備システムズ東京本社移転 2024/04/04 人事 ビザビ様 2025年卒学生が選ぶ人気企業ランキング発表(株式会社ビザビ様調べ) - 両備システムズ様 : 前年1位 → 3位 - OEC様 : 前年56位 → 16位 - ピコシステム様 : 前年100位 → 30位 - システムエンタープライズ様 : 前年13位 → ランク外 - 東都システムズ様 : 前年17位 → ランク外 - セリオ様 : 22位 →　ランク外 - ピープルソフトウェア様 : 前年27位 → ランク外 2024/04/12 経営情報 両備システムズ様 両備システムズが東京本社を移転、首都圏での売上高を2030年までに倍増を目指す 2024/04/24 経営情報 セリオ様 セリオ本社ビル建築プロジェクトが「CLT建築実証事業」として採択 2024/05/14 経営情報 両備システムズ様 事業拡大のため、岡山市南区豊成に新オフィス建設 2024/05/23 認定 エクシードシステム様 LINEヤフー Partner Program LINEミニアプリ部門「Technology Partner」に認定 2024/05/31 リリース 両備システムズ様 ファイル共有サービス「R-Cloud FileShare」の無料トライアルを受付開始 2024/06/01 イベント SEO SEO親睦フットサル大会 2024/06/03 リリース リゾーム様 商業施設のテナント選びを支援するChatGPTを使ったAIクラウドサービス『PROCOCO』を5月リリース 2024/06/08 イベント 岡山IT座談会 THE岡山IT座談会 2024/06/09 その他 岡山大学様 産学官連携「おかやまデジタルイノベーション創出プラットフォーム」設立 2024/06/10 リリース 両備システムズ様 AI画像解析による物流の数量確認の時間を短縮できるAIカウントツール「CountShot」などを使ったサービスを提供 2024/06/10 リリース アイアットOEC様 ノーコードツール「@pocket（アットポケット）」をリリース 2024/06/12 - 2024/06/14 イベント 両備システムズ様 「画像センシング展2024」へ出展 2024/06/14 イベント ネットリンクス様 kintoneでのアプリ作成体験ワークショップ開催 2024/06/15 イベント フィネット様 Geeks Who Drink in Okayama 20224/06/17 ピープルソフトウエア様 リリース 複数映像の自動切り替えソフトウェア「Intelligent Switching」をリリース 2024/06/18 経営情報 セリオ様 役員異動:取締役 的野秀明氏が任期満了により退任 2024/06/20 リリース アイアットOEC様 ノーコードツール「@pocket（アットポケット）」をリリース 2024/06/22 イベント Okayama.

Azure OpenAI APIの正しいトークン数の計算方法 はじめに OpenAIのAPI利用する際、OpenAI内のGPTなどのLLMはトークンと呼ばれる文字列の単位で処理を行い、APIの利用料金は処理したトークン数にもとづいて課金されます。 そのため、OpenAI APIの利用料金を算出するにあたって、トークン数を試算する必要があります。 この記事では、OpenAI APIにおいてトークン数の算出をする方法について紹介します。 OpenAI APIのレスポンスボディからトークン数を算出 OpenAIのAPIをコールすると通常は、レスポンスボディのusageの項目からトークン数を取得することができます。 // OpenAI APIのレスポンスボディの例 { "id": "chatcmpl-123", "object": "chat.completion", "created": 1677652288, "model": "gpt-4o-mini", "system_fingerprint": "fp_44709d6fcb", "choices": [{ "index": 0, "message": { "role": "assistant", "content": "\n\nHello there, how may I assist you today?", }, "logprobs": null, "finish_reason": "stop" }], "usage": { "prompt_tokens": 9, "completion_tokens": 12, "total_tokens": 21, "completion_tokens_details": { "reasoning_tokens": 0 } } } usage配下のパラメータはそれぞれ以下の意味を持ちます。

PowerAutomateワークフローからTeamsのチャネルにメッセージを通知 はじめに この記事ではAzure MonitorのアラートをMicrosoft Teamsに通知する方法を紹介します。 PowerAutomateワークフローを作成する ワークフローを作成する場合、 PowerAutomateのWEBサイトか、 TeamsのWEBサイトまたはアプリから作成が可能です。 この記事では、 Teamsアプリからワークフローの作成を行います。 PowerAutomate 以下の手順で作成を行います。 通知対象のチャネルのメニューからワークフローを選択する Webhook要求を受信するとチャネルに投稿する ワークフローの名前を入力し、ワークフローを追加 追加後に表示されるワークフローのURLを控える Adaptive Cardでの通知 ワークフローから通知を行う際は、 メッセージの形式をAdaptive Cardにする必要があります。 Adaptive Cardは、 JSONで記述されたUI要素を、 アプリケーションで表示する際のJSONの標準フォーマットです。 Adaptive Cardは、 Teams、 Outlook、 Androidアプリ、 iOSアプリなどのマルチプラットフォームに対応(Adaptive)しています。 以下のサイトで、 Adaptive Cardのプレビューが可能です。 Designer | Adaptive Cards Adaptive Cardで通知を行うPythonコード ワークフローの作成完了後は、 ワークフローのURLに通知を送信するPythonコードを用意します。 .env TEAMS_WEBHOOK_URL=※コピーしたワークフローのURLを設定 main.py 以下のコードはテキスト、 テーブル、 ファクトセットの３ 種類メッセージをポストする。 import os import requests from dotenv import load_dotenv load_dotenv() # URL取得 WEBHOOK_URL = os.

Python用のOpenAI APIライブラリにおけるエラーハンドリング はじめに Python用のOpenAIのライブラリを使って、OpenAIのAPIを利用するに当たって、エラー発生時のエラーハンドリングを適切に実装にするために、 OpenAIのライブラリに実装されているエラークラスとリトライについて解説します。 前提条件 検証時の環境情報は以下の通りです。 Python : 3.12 ライブラリバージョン : openai-1.34.0 API バージョン : 2024-05-01-preview リソース : Azure OpenAI モデル : gpt-4-32k エラークラス OpenAIのライブラリには、以下のエラークラスが実装されています。 APIStatusError 4xx - 5xx台のステータスコードが返された場合に発生する例外を表すクラスです。 サブクラスとして、以下のエラークラスが実装されています。 400 : openai.BadRequestError : トークン数がコンテキストウィンドウを超過した場合、コンテンツフィルターブロックされた場合などに発生 401 : openai.UnauthorizedError : APIの認証に失敗した場合などに発生 404 : openai.NotFoundError : リクエスト先のモデルデプロイメントが見つからない場合などに発生 (OpenAIサービス自体が存在しない場合は、APIConnectionErrorが発生する) 408 : openai.APITimeoutError : APIのタイムアウトが発生した場合に発生 409 : openai.ConflictError : リクエストが競合している場合に発生 422 : openai.UnprocessableEntityError : リクエストの項目不足などの理由でリクエストが処理できない場合に発生 429 : openai.RateLimitError : リクエストがレート制限を超えた場合に発生 500 : openai.

主要LLMの比較 はじめに この記事ではOpenAIのGPTや、AnthropicのClaudeなどの主要モデルについて比較します。 AIサービス モデル 団体 設立 国 Azure OpenAI AWS Bedrock Google Cloud Vertex AI 備考 GPT OpenAI 2015年12月11日 米国 〇 × × GPTは「Generative Pre-trained Transformer」の略。2017年にGoogleが発表したLLM「Transformer」がベース。事前に大量のデータで訓練されたLLMを示す。 Claude Anthropic 2021年ごろ 米国 × 〇 〇 Claudeはフランス語圏に多い名前。 数学者クロード・シャノン（Claude Shannon）など 機能要件 モデル名 モデルID 日本語対応 マルチモーダル コンテンツフィルター Fuction Calling GPT 3.5 gpt-3.5-turbo-16k(0613) 〇 〇 〇 〇 GPT-4 gpt-4-32k(0613) 〇 〇 〇 〇 GPT-4 Turbo Preview gpt-4(0125-Preview) 〇 〇 〇 〇 GPT-4 Turbo With Vision Preview gpt-4(vision-Preview) 〇 〇 〇 〇 Claude3 Sonnet anthropic.

在職者が選ぶ!「2024年岡山IT企業ランキング」 はじめに 転職者向けの口コミサイトでの評価をもとに、岡山のシステム会社(Sier)やWEB制作会社などIT企業の人気ランキングを作成しました。 岡山で就活・転職活動をされている方の参考になれば幸いです。 選定条件 ランキングの作成に当たり、以下の条件でランキングを作成しています。 以下の3つの著名口コミサイトに全てに評価が記載されている企業を対象 OpenWork 転職会議 ライトハウス 3つの口コミサイトの評価の平均値を総合評価として順位付け 2024年4月時点での評価点を記載 ※企業ごとに投稿口コミ数が異なるため、口コミサイトの評価点が必ずしも企業の「格」を示すものではなく、本ランキングはあくまで参考指標です ※3つの口コミサイト全てに評価が記載されている企業を対象としているため、一部の企業は今回のランキングからは対象外とさせていただきました ランキング 各社のランキングは以下の結果になりました。 順位 会社名 総合評価 1 両備システムズ 3.44 2 NICS 3.32 3 セリオ 3.25 4 OEC 3.23 5 トスコ 3.22 6 アイピーシステム 3.22 7 システムヨシイ 3.15 8 システムタイズ 3.

Github Copilotチートシート はじめに この記事では、Github Copilotの機能の一覧をまとめたチートシートを紹介します。 Github Copilotとは Microsoftによって開発されたAIベースのコーディングアシスタントです。 AIによるコードの自動補完やコードの提案機能を提供します。 コード補完: コーディング中にAIが提案するコード補完を活用して、効率的にコーディングを進めます。 ドキュメントやコメントの生成: コードに関するドキュメントやコメントをAIが自動生成してくれる機能を活用します。 IDEの拡張機能 CopilotはそれぞれのIDEに対応するGitHub Copilot拡張機能をインストールすることで、IDEで開いているファイルのコードの自動補完や、コードの提案を提供します。 対応するエディタとして以下のようなものがあります。 Azure Data Studio JetBrains IDEs Vim/Neovim Visual Studio Visual Studio Code Github copilot公式ドキュメント: IDE拡張機能 GitHub Copilot Chat GitHub Copilot Chatは、コーディング関連の質問をしたり、回答を受け取ったりできるチャットインターフェイスを提供します。 Copilot Chatは、Visual Studio Codeの場合は4種類のチャット欄から利用できます。 クイックチャット(画面上部に表示) インラインチャット(現在のカーソル位置に表示) チャットビュー(サイドパネルに表示) チャットエディタ(エディタのタブに表示) Copliot Chatで生成したテキストはチャット欄からコピーやインサートをすることができます。 Github Copilot公式ドキュメント Participants Visual StudioやVs Codeでは、「Participants」という機能が使えます。 GitHub Copilot Chatの「Participants」は、エディタ上で開いているファイル以外だけでなく、より幅広いコンテキストに対しての回答や操作を可能にする機能です。 Participantsはネット上では、Agentsなどとも呼ばれています。 従来のCopilotは主にエディタで開いているファイルや直接関連するコードブロックに対してのみ操作や提案を行っていましたが、Participantsを使用することで、エディタで開いているファイル以外にも質問が可能になります。 以下の3種類のParticipantsが用意されており、チャット欄の先頭に@から始まるコマンドを入力することで使用することができます。 @workspace : プロジェクト全体への質問、操作を行う @vscode : VS Codeの操作方法などについて質問する @terminal : ターミナルで何かをする方法について質問する Visual Studioブログ

Azure AI Searchクエリリファレンスガイド はじめに この記事では、Azure AI Searchのクエリの使い方について紹介します。 Azure Cognitive Searchとは Azure AI Search(旧Azure Cognitive Search) は、ストレージ上のファイルなどのデータソースに対して、インデックスを作成し、作成したインデックスによる検索を可能にするサービスです。 インデックスには、ファイルの種類や、ファイルの作成日などのファイルに関するメタデータを格納することができ、 AI Searchを使うと、指定した種類に該当するファイルの絞り込みや、 指定した期間に該当する作成日のファイルの検索などが可能になります。 https://learn.microsoft.com/ja-JP/azure/search/search-what-is-azure-search クエリパラメータ Azure AI Searchでは、検索クエリの実行時にクエリパラメータを渡すことで、検索時に挙動を変更することができます。 クエリパラメータは以下のようなものがあります。 queryType searchMode search searchFields https://learn.microsoft.com/ja-jp/azure/search/search-query-overview queryType queryTypeはクエリのパーサーを設定します。 以下の値が指定できます。 simplefull : 既定のクエリパーサー、単純なフルテキスト検索に最適 full : 正規表現、近接検索、あいまい検索、ワイルドカード検索などの高度なクエリに使用する semantic : セマンティック検索用に設定 searchMode Azure AI SearchのsearchModeパラメータは、検索クエリの動作を指定することができます。 searchModeにはanyとallの2つの値を指定することができます。 デフォルトのsearchModeはanyです。 それぞれのモードは以下のような動作を持ちます。 any このモードを指定すると、検索クエリに含まれる単語のいずれかが存在するすべてのドキュメントを検索します。 # キーワードのいずれかを含むドキュメントを表示 search='キーワード1 キーワード2'&searchMode=any all このモードを指定すると、検索クエリに含まれるすべての単語が存在するドキュメントを検索します。

Azure AI Search入門 はじめに この記事では、Azure AI Searchの基礎知識について紹介します。 Azure AI Searchとは Azure AI Search(旧Azure Cognitive Search) は、ストレージ上のファイルなどのデータソースに対して、インデックスを作成し、作成したインデックスによる検索を可能にするサービスです。 インデックスには、ファイルの種類や、ファイルの作成日などのファイルに関するメタデータを格納することができ、 AI Searchを使うと、指定した種類に該当するファイルの絞り込みや、 指定した期間に該当する作成日のファイルの検索などが可能になります。 https://learn.microsoft.com/ja-JP/azure/search/search-what-is-azure-search Azure AI Searchの基本要素 Azure AI Searchは以下の要素から構成されています。 データソース インデクサー インデックス ドキュメント フィールド データソース データソースはAzure AI Searchで検索対象となるデータが格納されている場所を指します。 具体例としては、Azure SQL Database、Azure Cosmos DB、Azure Blob Storageなどのデータストレージサービスが該当します。 インデクサー インデクサーはデータソースからデータを読み取り、それをインデックスに格納する役割を持つものです。 インデックス インデックスはデータソースから取得したデータを効率よく検索できる形式で格納したもののことです。 ドキュメント ドキュメントはインデックス内で格納されているユニークな個々のレコードを指します。 各ドキュメントは一連のフィールドとその値から構成され、通常はJSONオブジェクトとして表現されます。 フィールド フィールドはインデックス内の各ドキュメントが持つ属性を指します。 データベースでいうカラムに該当するものです。 Search Explorer Search Explorerは、Azure portalからAzure AI Searchに検索クエリを実行することができる機能です。 Search Explorerは、AI Searchにインデックスを作成すると自動的に利用できるようになります。 Search Explorerを使うことで、クエリのテストや、インデックス内のドキュメントの確認をすることができます。 https://learn.microsoft.com/ja-jp/azure/search/search-explorer