Toshiyuki Hara

Azure Functions では、Azure OpenAI 向けの拡張機能（Preview）が提供されていますが、関数を呼び出した際の 404 エラーに遭遇したので顛末をまとめておきます。learn.microsoft.com現象Text completion input binding などの関数を呼び出した際に、下記のように 404 エラーが発生しました。[2025-01-17T06:48:58.834Z] Executed 'Functions.GenerateText' (Failed, Id=88d16bb1-2c58-4db4-a173-98208885ae76, Duration=1065ms)[2025-01-17T06:48:58.838Z] System.Private.CoreLib: Exception while executing function: Functions.GenerateText. Azure.AI.OpenAI: The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again.[2025-01-17T06:48:58.849Z] Status: 404 (DeploymentNotFound)[2025-01-17T06:48:58.852Z] ErrorCode: DeploymentNotFound[2025-01-17T06:48:58.856Z][2025-01-17T06:48:58.861Z] Content:[2025-01-17T06:48:58.864Z] {"error":{"code":"DeploymentNotFound","message":"The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again."}}[2025-01-17T06:48:58.867Z][2025-01-17T06:48:58.870Z] Headers:[2025-01-17T06:48:58.877Z] x-ms-client-request-id: d6ccf64a-504c-471c-b100-d8ff659824d9[2025-01-17T06:48:58.880Z] apim-request-id: REDACTED[2025-01-17T06:48:58.883Z] Strict-Transport-Security: REDACTED[2025-01-17T06:48:58.886Z] X-Content-Type-Options: REDACTED[2025-01-17T06:48:58.889Z] x-ms-region: REDACTED[2025-01-17T06:48:58.895Z] Date: Fri, 17 Jan 2025 06:48:57 GMT[2025-01-17T06:48:58.897Z] Content-Length: 197[2025-01-17T06:48:58.899Z] Content-Type: application/json[2025-01-17T06:48:58.901Z] .    原因以前は正常に動作していたコードなので１時間くらい悩んだのですが、原因はシンプルでエンドポイントが間違っていました。Azure Portal ではなく、AI Foundry のモデルのエンドポイントを使うのが正解です。URL の openai/deployments/gpt-4o/chat/completions?api-version=2024-08-01-preview を除いた https://xxx-xxx-eastus2.cognitiveservices.azure.com/ までを使ってください。ちなみに、以前は Azure Portal のエンドポイントで正常に動作していました。正確には Azure Functions の問題ではなく、AOAI 側のエンドポイントの違いです。対応local.settings.json において、正しいエンドポイントとキーを定義します。{  "IsEncrypted": false,  "Values": {    "AzureWebJobsStorage": "UseDevelopmentStorage=true",    "FUNCTIONS_WORKER_RUNTIME": "dotnet-isolated",    "AZURE_OPENAI_ENDPOINT": "https://xxx-xxx-eastus2.cognitiveservices.azure.com/",    "AZURE_OPENAI_KEY": "xxx",    "CHAT_MODEL_DEPLOYMENT_NAME": "gpt-4o"}

Azure Functions の Azure OpenAI Extension で 404 エラーが発生する場合の確認事項

Azure Functions のビルドで NuGet エラーに遭遇したので顛末をまとめておきます。現象Azure Functions は、Isolated Worker Process モデルの Durable Functions（.NET9）です。 In-Process モデルでも通常の Functions でも同様のエラーでビルドが失敗します。error NU1102: バージョン (>= 4.3.1) のパッケージ System.Text.RegularExpressions が見つかりませんerror NU1102:   - 2 バージョンが Microsoft Visual Studio Offline Packages に見つかりました。 [ 最も近いバージョン: 4.1.0 ]error NU1102:   - nuget.org からのバージョンは考慮されませんでした。error NU1100: 'net6.0' に対する 'Grpc.Core (>= 2.46.6)' を解決できません。 PackageSourceMapping が有効になっています。次のソースは考慮されませんでした: Microsoft Visual Studio Offline Packages, nuget.org。error NU1100: 'net6.0' に対する 'ncrontab.signed (>= 3.3.0)' を解決できません。 PackageSourceMapping が有効になっています。次のソースは考慮されませんでした: Microsoft Visual Studio Offline Packages, nuget.org。error NU1100: 'net6.0' に対する 'runtime.native.System (>= 4.3.0)' を解決できません。 PackageSourceMapping が有効になっています。次のソースは考慮されませんでした: Microsoft Visual Studio Offline Packages, nuget.org。error NU1100: 'net6.0' に対する 'runtime.native.System.Net.Http (>= 4.3.0)' を解決できません。 PackageSourceMapping が有効になっています。次のソースは考慮されませんでした: Microsoft Visual Studio Offline Packages, nuget.org。error NU1100: 'net6.0' に対する 'runtime.native.System.Security.Cryptography.OpenSsl (>= 4.3.2)' を解決できません。 PackageSourceMapping が有効になっています。次のソースは考慮されませんでした: Microsoft Visual Studio Offline Packages, nuget.org。error NU1100: 'net6.0' に対する 'Azure.Data.Tables (>= 12.8.0)' を解決できません。 PackageSourceMapping が有効になっています。次のソースは考慮されませんでした: Microsoft Visual Studio Offline Packages, nuget.org。error NU1100: 'net6.0' に対する 'WindowsAzure.Storage (>= 9.3.1)' を解決できません。 PackageSourceMapping が有効になっています。次のソースは考慮されませんでした: Microsoft Visual Studio Offline Packages, nuget.org。error NU1100: 'net6.0' に対する 'Newtonsoft.Json.Bson (>= 1.0.1)' を解決できません。 PackageSourceMapping が有効になっています。次のソースは考慮されませんでした: Microsoft Visual Studio Offline Packages, nuget.org。error NU1100: 'net6.0' に対する 'runtime.native.System.Security.Cryptography.Apple (>= 4.3.0)' を解決できません。 PackageSourceMapping が有効になっています。次のソースは考慮されませんでした: Microsoft Visual Studio Offline Packages, nuget.org。Visual Studio から NuGet のキャッシュをクリアしても、エラーは解決しませんでした。原因数日前まではビルドが成功していたので、正直何もしていないのに壊れた状態です。learn.microsoft.comlearn.microsoft.comエラーコードの説明を読むと、NuGet.Config が怪しそうなので、パッケージソースのマッピングを追加したところ、そのパッケージのエラーは解消するものの、また別のパッケージでエラーが発生してしまいます。対応結論としては、パッケージソースのマッピングをすべて削除することで、エラーが解決しました。念のため、すべて削除した後にキャッシュもクリアしました。自分ではパッケージソースのマッピングを追加していないのに、かなりの数のマッピングが追加されていました。そもそも個別に追加する必要はないはずなので、何かの拍子に追加されたマッピング同士の依存関係が悪さをしていたのかもしれません。

Azure Functions のビルドが NuGet エラーで失敗する件

2024年もあと数時間となりましたので、今年１年を振り返ります。イベント登壇第46回 Tokyo Jazug Night社内の問い合わせ対応業務に Azure OpenAI Service を活用した導入事例を話しました。gooner.hateblo.jpJapan Azure User Group 14周年イベントAzure App Service on Linux の Sidecar に Phi-3 を配置する話をしました。gooner.hateblo.jpAzure Travelers 勉強会登壇というわけではありませんが、Azure Travelers 勉強会に参加して飛び込み LT を話しました。Azure と旅をテーマとしたコミュニティで、JAZUG とは違った面白さのある勉強会です。gooner.hateblo.jpgooner.hateblo.jpコミュニティ運営JAZUG の運営は足利さんたちに任せっきりであまりお手伝いできていませんが、来年は15周年なので楽しいイベントにしたいです。jazug.connpass.comMicrosoft MVP2019年以来、5年振りに MVP Global Summit（グロサミ）に現地参加しました。オンライン参加と比べて、多くのインプットや刺激をもらうことができました。gooner.hateblo.jp今年も Microsoft MVP を更新できたので、来年3月のグロサミにも現地参加の予定です。仕事生成 AI を取り巻く状況が変化する中でネクストスケープの得意領域を再認識した結果、開発内製化を推進したい顧客に対して、最新の PaaS / Serverless によるクラウドネイティブなアーキテクチャを活用した構築支援に原点回帰することにしました。また、Microsoft の海外カンファレンスである Build と  Ignite に現地参加しました。gooner.hateblo.jpgooner.hateblo.jpゲームブレワイとティアキンは神ゲーなので、記憶をなくした設定で２回クリアしました。信長の野望 新生は過去シリーズ中でも屈指の名作でした。まとめ今年もいろいろな場所へ旅行に行きましたし、推し活も捗りました。来年も趣味と仕事のどちらも楽しんでいきたいです。おまけ2024年自分が選ぶ今年の7枚。Seattle Argosy Cruises国営ひたち海浜公園のネモフィラあしかがフラワーパークの大藤銀山温泉桜井二見ヶ浦の夫婦岩Chicago River Cruiseもうすぐ金になるラジオ 1st Event

2024 年振り返り

今更感ありますが、Azure App Service に Streamlit で作成したアプリケーションをデプロイする手順をまとめておきます。Streamlit とはStreamlit は、Python で簡単に Web アプリケーションを構築できるため、AI や機械学習などのデータサイエンティストに人気があるフレームワークです。streamlit.ioチャットアプリを作成する今回は、Streamlit でチャットボットのアプリケーションを作成し、バックエンドの LLM には Azure OpenAI Service を利用しました。まずは、必要となる Python のパッケージをインストールします。PM> pip install streamlit openai python-dotenv次に、接続先となる Azure OpenAI Service の情報を環境変数（.env）に定義します。AZURE_OPENAI_API_KEY="xxx"AZURE_OPENAI_ENDPOINT="https://xxx.openai.azure.com/"AZURE_OPENAI_API_VERSION="yyyy-mm-dd-preview"AZURE_OPENAI_MODEL_NAME="gpt-4o"app.py にチャットボットを実装します。OpenAI Client を生成し、Chat Completions API を呼び出しています。チャットメッセージの入力と表示、セッション管理など含めて、数行の Python のコードで実装できます。import streamlit as stimport osfrom openai import AzureOpenAIfrom dotenv import load_dotenvload_dotenv()api_key = os.getenv("AZURE_OPENAI_API_KEY")azure_endpoint = os.getenv("AZURE_OPENAI_ENDPOINT")api_version = os.getenv("AZURE_OPENAI_API_VERSION")model = os.getenv("AZURE_OPENAI_MODEL_NAME")st.title("AOAI Chat App")client = AzureOpenAI(    api_key = api_key,    azure_endpoint = azure_endpoint,    api_version = api_version)if "openai_model" not in st.session_state:    st.session_state["openai_model"] = modelif "messages" not in st.session_state:    st.session_state.messages = []for message in st.session_state.messages:    with st.chat_message(message["role"]):        st.markdown(message["content"])if prompt := st.chat_input("What is up?"):    st.session_state.messages.append({"role": "user", "content": prompt})    with st.chat_message("user"):        st.markdown(prompt)    with st.chat_message("assistant"):        stream = client.chat.completions.create(            model = model,            messages=[                {"role": m["role"], "content": m["content"]}                for m in st.session_state.messages            ],            max_tokens = 1024,            temperature = 0.95,            stream=True        )        response = st.write_stream(stream)    st.session_state.messages.append({"role": "assistant", "content": response})ローカル開発環境において、アプリケーションを実行して動作確認しておきます。PM> streamlit run app.py    デプロイ準備Azure App Service にデプロイする準備として、下記の２つを追加しておきます。Azure App Service に Python のパッケージをインストールするための requirements.txt を追加します。streamlitopenaipython-dotenvAzure App Service 上で Streamlit のアプリケーションを実行するためのスクリプト（startup.sh）を追加します。python -m streamlit run app.py --server.port 8000 --server.address 0.0.0.0ここまで準備できたら、GitHub のリポジトリにコードをプッシュしておきます。Azure App Service を作成するAzure Portal から App Service を作成します。Python 3.12 を指定し、Startup Command に startup.sh を設定します。App settings に SCM_DO_BUILD_DURING_DEPLOYMENT を追加して、値に「1」を設定します。これは App Service 上に Python のパッケージをインストールさせるための構成なので、必ず設定しておく必要があります。ここまで設定できたら、Deployment Center から App Service と GitHub のリポジトリをリンクして GitHub Actions を設定します。name: Build and deployon:  push:    branches:      - main  workflow_dispatch:jobs:  build:    runs-on: ubuntu-latest    steps:      - uses: actions/checkout@v4      - name: Set up Python version        uses: actions/setup-python@v5        with:          python-version: '3.12'      - name: Create and start virtual environment        run: |          python -m venv venv          source venv/bin/activate            - name: Install dependencies        run: pip install -r requirements.txt              # Optional: Add step to run tests here (PyTest, Django test suites, etc.)      - name: Zip artifact for deployment        run: zip release.zip ./* -r      - name: Upload artifact for deployment jobs        uses: actions/upload-artifact@v4        with:          name: python-app          path: |            release.zip            !venv/  deploy:    runs-on: ubuntu-latest    needs: build    environment:      name: 'Production'      url: ${{ steps.deploy-to-webapp.outputs.webapp-url }}    permissions:      id-token: write #This is required for requesting the JWT    steps:      - name: Download artifact from build job        uses: actions/download-artifact@v4        with:          name: python-app      - name: Unzip artifact for deployment        run: unzip release.zip            - name: Login to Azure        uses: azure/login@v2        with:          client-id: ${{ secrets.AZUREAPPSERVICE_CLIENTID_2466F700CA8843CA9B069A29E3450DFA }}          tenant-id: ${{ secrets.AZUREAPPSERVICE_TENANTID_190A7EF7651C4E9B8B92AB9EE837B7F8 }}          subscription-id: ${{ secrets.AZUREAPPSERVICE_SUBSCRIPTIONID_C91DA824A9CC46778EC83041EBFC699E }}      - name: 'Deploy to Azure Web App'        uses: azure/webapps-deploy@v3        id: deploy-to-webapp        with:          app-name: 'gooner-chat'          slot-name: 'Production'    動作確認デプロイが完了したら、チャットアプリを動作確認してみます。App Service の Easy Auth で Microsoft Account 認証を設定しました。認証周りもアプリケーションに手を加えずに実現できるのは、App Service のメリットの１つです。まとめAzure App Service に Streamlit で作成したチャットアプリをデプロイしてみました。今回のソースコードは、こちらのリポジトリで公開しています。github.com

Azure App Service に Streamlit で作成したチャットアプリをデプロイする

この記事は、Microsoft Azure Advent Calendar 2024 の 16 日目 の記事です。qiita.comAzure Functions の In-Process モデルが 2026 年 11 月 10 日よりサポート終了となりますので、Isolated Worker Process モデルにおけるシークレットの管理方法を改めて考えてみました。モチベーションデータベースの接続文字列や API Key などのセンシティブな情報は、アプリケーションのリポジトリ内では管理したくありません。Azure の本番環境では、Azure Key Vault を使って Managed Service Identity（MSI）で認証するローカルの開発環境では、ASP.NET Core の Secret Manger で管理するアプリケーションに関する設定は、appsettings.json で管理するFunction のバインディング用の接続文字列は、local.settings.json で管理する上記の方針に従って、実際に構成を作って試してみます。Azure Functions に appsettings.json を追加するAzure Functions のプロジェクトには local.settings.json が用意されていますが、JSON の配列を定義できないなど ASP.NET Core の appsettings.json と異なる部分が使いづらいので、Azure Functions においても appsettings.json を導入します。appsettings.json と appsettings.Development.json のファイルを追加します。<ItemGroup>    <None Update="appsettings.json">        <CopyToOutputDirectory>PreserveNewest</CopyToOutputDirectory>    </None>    <None Update="appsettings.Development.json">        <CopyToOutputDirectory>PreserveNewest</CopyToOutputDirectory>        <CopyToPublishDirectory>Never</CopyToPublishDirectory>    </None></ItemGroup>appsettings.json では、接続する Key Vault の URL を定義しておきます。{  "Function": {    "KeyVaultUrl": "https://xxx.vault.azure.net/"  }}    Azure Key Vault にデータベースの接続文字列を登録するAzure Functions からアクセスする SQL Database の接続文字列を登録するシナリオを例に説明していきます。Function--SqlConnection という名前で登録します。名前に Function のプレフィックスを付けた理由は、１つの Key Vault で複数の Azure Functions を構成を管理する想定のためです。-- で区切っています。Key Vault の名前には : を使うことができないで注意してください。Azure Functions で Azure Key Vault を参照するAzure Key Vault を参照するための NuGet パッケージをインストールします。PM> Install-Package Azure.Identity -Version 1.13.1PM> Install-Package Azure.Extensions.AspNetCore.Configuration.Secrets -Version 1.3.2開発環境以外では MSI を使って Key Vault に接続するように Program.cs で構成します。if (builder.Configuration["AzureWebJobsStorage"] != "UseDevelopmentStorage=true"){    var keyVaultUrl = builder.Configuration["Function:KeyVaultUrl"];    if (!string.IsNullOrEmpty(keyVaultUrl))    {        builder.Configuration.AddAzureKeyVault(new Uri(keyVaultUrl), new DefaultAzureCredential());    }}アプリケーションで SQL Database の接続文字列を扱いやすくするため、POCO クラスにマッピングします。public class MySettings{    public required string SqlConnection { get; set; }    public required string KeyVaultUrl { get; set; }}Key Vault の Secret から自分のアプリケーション情報だけを取得したいので、Program.cs で Function のプレフィックスを指定しています。builder.Services    .Configure<MySettings>(builder.Configuration.GetSection("Function"))    .AddApplicationInsightsTelemetryWorkerService()    .ConfigureFunctionsApplicationInsights();Program.cs 全体のコードは、こんな感じです。var builder = FunctionsApplication.CreateBuilder(args);builder.ConfigureFunctionsWebApplication();builder.Configuration.AddUserSecrets(Assembly.GetExecutingAssembly());builder.Services    .Configure<MySettings>(builder.Configuration.GetSection("Function"))    .AddApplicationInsightsTelemetryWorkerService()    .ConfigureFunctionsApplicationInsights();if (builder.Configuration["AzureWebJobsStorage"] != "UseDevelopmentStorage=true"){    var keyVaultUrl = builder.Configuration["Function:KeyVaultUrl"];    if (!string.IsNullOrEmpty(keyVaultUrl))    {        builder.Configuration.AddAzureKeyVault(new Uri(keyVaultUrl), new DefaultAzureCredential());    }}builder.Build().Run();Function では、このような実装で SQL Database の接続文字列を取得します。public class HttpFunction{    private readonly ILogger<HttpFunction> _logger;    private readonly MySettings _settings;    public HttpFunction(ILogger<HttpFunction> logger, IOptions<MySettings> optionsAccessor)    {        _logger = logger;        _settings = optionsAccessor.Value;    }    [Function(nameof(HttpFunction))]    public IActionResult Run([HttpTrigger(AuthorizationLevel.Function, "get", "post")] HttpRequest req)    {        _logger.LogInformation("C# HTTP trigger function processed a request.");        var responseMessage = $"SqlConnection : {_settings.SqlConnection}, KeyVaultUrl : {_settings.KeyVaultUrl}";        return new OkObjectResult(responseMessage);    }}    Azure 本番環境Azure Functions の MSI を有効化し、Key Vault の Access policies を設定します。$ az functionapp identity assign --name "<Function Apps Name>" --resource-group "<Resource Group Name>"{  "principalId": "xxx",  "tenantId": "yyy",  "type": "SystemAssigned",  "userAssignedIdentities": null}$ az keyvault set-policy --name "<Key Vault Name>" --object-id "xxx" --secret-permissions get listこれで Azure Functions は、MSI で Key Vault に認証して SQL Database の接続文字列を取得できます。ローカル開発環境Visual Studio の機能でローカル開発環境から Key Vault に接続することはできますが、環境によって上手く認証できなかったり、デバッグ実行が遅くなったりするので、今回は使いません。learn.microsoft.comVisual Studio のプロジェクトを右クリックしたユーザーシークレットの管理から secrets.json ファイルを追加し、このように SQL Database の接続文字列を定義します。{  "Function": {    "SqlConnection": "SQL Connection for Secret Manager."  }}これでローカル環境では、secrets.json から取得した SQL Database の接続文字列を使って開発できます。local.settings.json でバインディングの接続文字列を管理するStorage や Cosmos DB のバインディングを使う Function の場合、バインディング用の接続文字列を設定する必要があります。The Functions scale controller may not scale the following functions correctly because some configuration values were modified in an external startup class.そのため、バインディング用の接続文字列は  local.settings.json で管理します。{    "IsEncrypted": false,    "Values": {      "AzureWebJobsStorage": "UseDevelopmentStorage=true",      "FUNCTIONS_WORKER_RUNTIME": "dotnet",      "StorageBindingConnection": "UseDevelopmentStorage=true"    }}public class QueueFunction{    private readonly ILogger<QueueFunction> _logger;    public QueueFunction(ILogger<QueueFunction> logger)    {        _logger = logger;    }    [Function(nameof(QueueFunction))]    public void Run([QueueTrigger("myqueue-items", Connection = "StorageBindingConnection")] QueueMessage message)    {        _logger.LogInformation("C# Queue trigger function processed: {MessageText}", message.MessageText);    }}Azure 本番環境では、Application settings に接続文字列をベタ書きではなく Key Vault 参照を使うことで、シークレットを Key Vault で一元管理するようにします。@Microsoft.KeyVault(SecretUri=https://xxx.vault.azure.net/secrets/Function--StorageConnection/)learn.microsoft.comまとめAzure Functions の Isolated Worker Process モデルにおけるシークレットの管理方法を改めて考えてみました。拡張機能なしで ASP.NET Core のプログラミングモデルに寄せて実装できるようになりました。ASP.NET Core アプリケーションについては、こちらの記事を参照してください。gooner.hateblo.jp

Azure Functions におけるシークレットの管理方法を改めて考えてみた【Isolated Worker Process 版】

この記事は、Microsoft Azure Advent Calendar 2024 の 15 日目 の記事です。qiita.comAzure Functions の In-Process モデルは、.NET 8 までの対応となっており、2026 年 11 月 10 日よりサポート終了となります。github.comApplicationIsolated Worker Process モデルにマイグレーションする手順は、こちらのドキュメントの通りです。今回は Deployment Slots を使わずダイレクトに移行します。azure.github.iocsproj ファイルPropertyGroup に OutputType を追加し、Target Framework も合わせて更新します。<PropertyGroup>    <TargetFramework>net9.0</TargetFramework>    <AzureFunctionsVersion>v4</AzureFunctionsVersion>    <UserSecretsId>2586a5fb-4b07-4712-be4b-75721384d340</UserSecretsId>    <OutputType>Exe</OutputType>    <ImplicitUsings>enable</ImplicitUsings>    <Nullable>enable</Nullable></PropertyGroup>Nuget Library は、In-Process モデルのパッケージを Microsoft.Azure.Functions.Worker に置き換えます。<PackageReference Include="Microsoft.Azure.Functions.Worker" Version="2.0.0" /><PackageReference Include="Microsoft.Azure.Functions.Worker.Extensions.Http" Version="3.2.0" /><PackageReference Include="Microsoft.Azure.Functions.Worker.Extensions.Http.AspNetCore" Version="2.0.0" /><PackageReference Include="Microsoft.Azure.Functions.Worker.Sdk" Version="2.0.0" />Queue Trigger の Function があるので、こちらのパッケージも置き換えます。他のトリガーやバインディングがある場合は、個別に置き換えが必要です。<PackageReference Include="Microsoft.Azure.Functions.Worker.Extensions.Storage.Queues" Version="5.5.0" />シークレット関連は、バージョン更新するだけで OK です。<PackageReference Include="Azure.Identity" Version="1.13.1" /><PackageReference Include="Azure.Extensions.AspNetCore.Configuration.Secrets" Version="1.3.2" />Application Insights のパッケージも追加しておきます。<PackageReference Include="Microsoft.ApplicationInsights.WorkerService" Version="2.22.0" /> <PackageReference Include="Microsoft.Azure.Functions.Worker.ApplicationInsights" Version="2.0.0" />最後に、 新しい ItemGroup を追加します。<ItemGroup>    <Using Include="System.Threading.ExecutionContext" Alias="ExecutionContext" /></ItemGroup>    Program.cs ファイルこのアプリケーションでは、Azure Functions のプロジェクトに拡張の NuGet パッケージをインストールして Startup クラスを実装していました。appsettings.json の追加Azure Key Vault の参照（Azure 環境のみ）secrets.json の利用（ローカル開発環境のみ）[assembly: FunctionsStartup(typeof(FunctionApp.Startup))]namespace FunctionApp{    public class Startup : FunctionsStartup    {        public override void Configure(IFunctionsHostBuilder builder)        {            var context = builder.GetContext();            builder.Services.Configure<MySettings>(context.Configuration.GetSection("Function"));        }        public override void ConfigureAppConfiguration(IFunctionsConfigurationBuilder builder)        {            var context = builder.GetContext();            builder.ConfigurationBuilder                .AddJsonFile(Path.Combine(context.ApplicationRootPath, "appsettings.json"), optional: true, reloadOnChange: false)                .AddJsonFile(Path.Combine(context.ApplicationRootPath, $"appsettings.{context.EnvironmentName}.json"), optional: true, reloadOnChange: false)                .AddEnvironmentVariables();            if (context.EnvironmentName != "Development")            {                var config = builder.ConfigurationBuilder.Build();                builder.ConfigurationBuilder                    .AddAzureKeyVault(new Uri(config["Function:KeyVaultUrl"]), new DefaultAzureCredential());            }        }    }}Startup クラスの実装を Program.cs ファイルに置き換えます。IHostApplicationBuilder を使うことで、ASP.NET Core のプログラミングモデルに寄せて実装できる ASP.NET Core integration を有効化できます。var builder = FunctionsApplication.CreateBuilder(args);builder.ConfigureFunctionsWebApplication();builder.Configuration.AddUserSecrets(Assembly.GetExecutingAssembly());builder.Services    .Configure<MySettings>(builder.Configuration.GetSection("Function"))    .AddApplicationInsightsTelemetryWorkerService()    .ConfigureFunctionsApplicationInsights();if (builder.Configuration["AzureWebJobsStorage"] != "UseDevelopmentStorage=true"){    if (!string.IsNullOrEmpty(keyVaultUrl))    {        builder.Configuration.AddAzureKeyVault(new Uri(keyVaultUrl), new DefaultAzureCredential());    }}builder.Build().Run();    local.settings.json ファイルFUNCTIONS_WORKER_RUNTIME プロパティの値を dotnet-isolated へ変更します。{  "IsEncrypted": false,  "Values": {    "AzureWebJobsStorage": "UseDevelopmentStorage=true",    "FUNCTIONS_WORKER_RUNTIME": "dotnet-isolated",    "StorageBindingConnection": "UseDevelopmentStorage=true"  }    Http Trigger FunctionIsolated Worker Process モデルでは、Function の引数で ILogger を受け取れないため、コンストラクタの引数で受け取るように変更します。private readonly ILogger<HttpFunction> _logger;    // 追加private readonly MySettings _settings;//public HttpFunction(IOptions<MySettings> optionsAccessor)public HttpFunction(ILogger<HttpFunction> logger, IOptions<MySettings> optionsAccessor){    _logger = logger;    // 追加    _settings = optionsAccessor.Value;}Function を定義する属性は、FunctionName から Function に変更します。//[FunctionName(nameof(HttpFunction))]//public IActionResult Run([HttpTrigger(AuthorizationLevel.Function, "get", "post", Route = null)] HttpRequest req, ILogger log)[Function(nameof(HttpFunction))]public IActionResult Run([HttpTrigger(AuthorizationLevel.Function, "get", "post")] HttpRequest req)    Queue Trigger FunctionILogger をコンストラクタの引数で受け取る変更は Http Trigger と同様です。Queue Trigger ではメッセージを QueueMessage 型で受け取れるようになります。//[FunctionName(nameof(QueueFunction))]// public void Run([QueueTrigger("myqueue-items", Connection = "StorageBindingConnection")] string myQueueItem, ILogger log)[Function(nameof(QueueFunction))]public void Run([QueueTrigger("myqueue-items", Connection = "StorageBindingConnection")] QueueMessage message)ローカル開発環境で Visual Studio からデバッグ実行すると、エラーが発生しました。<Error>  <Code>InvalidHeaderValue</Code>  <Message>The value for one of the HTTP headers is not in the correct format.</Message>  <HeaderName>x-ms-version</HeaderName>  <HeaderValue>2024-08-04</HeaderValue></Error>どうやら Nuget Package を更新したことで、ライブラリとエミュレータで Azure Storage の API バージョンが一致していないことが原因のようです。Azure FunctionsAzure Functions 側は、環境変数の FUNCTIONS_WORKER_RUNTIME の値を dotnet-isolated へ変更します。.NET Version は、環境変数の変更を Save した後に変更しました。GitHub Actions を組んでいるので、こちらの DOTNET_VERSION も忘れずに更新します。env:  AZURE_FUNCTIONAPP_PACKAGE_PATH: '.' # set this to the path to your web app project, defaults to the repository root  DOTNET_VERSION: '9.0.x' # set this to the dotnet version to use以上で、無事に Isolated Worker Process モデルへのマイグレーションが完了しました。

Azure Functions を In-Process モデルから Isolated Worker Process モデルにマイグレーションする

.NET 9 が GA しましたので、Azure App Service にデプロイされている ASP.NET Core のアプリケーションをマイグレーションしました。github.comApplication.NET 8 から 9 にマイグレーションする手順は、こちらのドキュメントの通りです。learn.microsoft.comこのアプリケーションは Web API なので、Target Framework と Nuget Library のバージョンを更新するだけで完了しました。<Project Sdk="Microsoft.NET.Sdk.Web">  <PropertyGroup>    <TargetFramework>net9.0</TargetFramework>	  <Nullable>enable</Nullable>	  <ImplicitUsings>enable</ImplicitUsings>      <UserSecretsId>9b78b10b-0a8e-4ee1-a5d8-45b31b399498</UserSecretsId>	  </PropertyGroup>  <ItemGroup>    <PackageReference Include="AutoMapper" Version="13.0.1" />    <PackageReference Include="Azure.Data.Tables" Version="12.9.1" />    <PackageReference Include="Azure.Extensions.AspNetCore.Configuration.Secrets" Version="1.3.2" />    <PackageReference Include="Azure.Identity" Version="1.13.1" />    <PackageReference Include="Azure.Storage.Blobs" Version="12.23.0" />    <PackageReference Include="Azure.Storage.Queues" Version="12.21.0" />    <PackageReference Include="Microsoft.ApplicationInsights.AspNetCore" Version="2.22.0" />    <PackageReference Include="Microsoft.Azure.Cosmos" Version="3.46.0" />    <PackageReference Include="Microsoft.EntityFrameworkCore.SqlServer" Version="9.0.0" />    <PackageReference Include="Microsoft.EntityFrameworkCore.Tools" Version="9.0.0">      <PrivateAssets>all</PrivateAssets>      <IncludeAssets>runtime; build; native; contentfiles; analyzers; buildtransitive</IncludeAssets>    </PackageReference>    <PackageReference Include="Newtonsoft.Json" Version="13.0.3" />    <PackageReference Include="Swashbuckle.AspNetCore" Version="7.2.0" />  </ItemGroup>  <ItemGroup>    <Folder Include="Controllers\" />  </ItemGroup></Project>Cosmos DB Client を最新バージョンに更新したところ、ビルドエラーが発生しました。The Newtonsoft.Json package must be explicitly referenced with version >= 10.0.2. Please add a reference to Newtonsoft.Json or set the 'AzureCosmosDisableNewtonsoftJsonCheck' property to 'true' to bypass this check.何故か Newtonsoft.Json パッケージの明示的な参照を求められるようになり、オプトアウトの設定（AzureCosmosDisableNewtonsoftJsonCheck）を試しましたが、ビルドエラーは解決しませんでした。仕方なく Newtonsoft.Json パッケージをインストールしましたが、旧バージョンでは必要なかったのでこの対応は解せないと感じました。github.comAzure App ServiceApp Service 側は、.NET Version を変更するのみです。GitHub Actions を組んでいるので、こちらの dotnet-version も忘れずに更新します。jobs:  build:    runs-on: windows-latest    steps:      - uses: actions/checkout@v4      - name: Set up .NET Core        uses: actions/setup-dotnet@v1        with:          dotnet-version: '9.0.x'          include-prerelease: trueここまでの変更をリポジトリにプッシュすると、エラーが発生しました。This request has been automatically failed because it uses a deprecated version of `actions/upload-artifact: v2`.NET 9 のマイグレーションと別件で、GitHub Actions の artifact actions v2 が廃止されていたことが原因だったので、v4 に更新しました。github.blog以上で、無事に .NET 9 へのマイグレーションが完了しました。

Azure App Service を .NET 9 にマイグレーションする

昨年11月の Ignite 2023 に続き、今年も Ignite 2024 に現地参加してきました。昨年の開催地はシアトルでしたが、今年はシカゴで開催されました。news.microsoft.comIgnite 2024 でアナウンスされた内容は、このあたりの記事で説明されています。Book of Newsブチザッキ（Keynote、Azure Updates (2024-11-20)）この記事では、現地参加の雰囲気や個人的に感じたことをお伝えしていきます。Registration会場は、シカゴにある McCormick Place West Building です。ダウンタウンから会場が離れているので各ホテルからのシャトルバスでまとまって移動したことと、参加者数も1万4000人で大規模ということもあり、Registration の行列ができていました。Keynoteいよいよ初日のキーノート、今回も MVP 向けの Priority Seat が用意されていましたが、席数に限りがあり前日のレジストでも行列していたので6時半から並びました。今回の Ignite では Copilot の話題が多かったですが、個人的には Copilot & AI Stack のアーキテクチャを構成する Azure リソース群の派手さはないが堅実なアップデートが良かったと感じました。Multi-Agent というキーワードは、トヨタの事例をはじめ多くのセッションで取り上げられて若干のバズワード感はありましたが、ドメインやユースケース毎に個別最適化するアーキテクチャは良いと思いました。自律した Agent 群が協調して動作することで、部分的な更新、システム全体の可用性やパフォーマンスの向上、Agent 単位のスケーリングが実現しやすくなります。UI がチャットボットから音声入力に変わっても、容易に対応できそうです。Breakoutブレイクアウトセッションの様子。個人的に熱いと感じた Azure 関連のアップデート。Azure FunctionsFlex Consumption待望の GA だが、日本リージョンにデプロイされず・・・Durable Task Scheduler for Azure Durable FunctionsDurable Functions は OpenAI との相性が良い、最適化されたパフォーマンスでモニタリングしやすさも向上Azure Container AppsServerless GPUサーバーレスで GPU が使えるCosmos DBVector Search for NoSQLDiskANN を使ったベクトル検索が GAFull Text Search and Hybrid Searchまさかの Cosmos DB でフルテキスト検索とハイブリッド検索、AI Search との使い分けを整理したいAzure Managed Redis現行の Azure Cache for Redis よりも早い安い、将来的には移行する流れ一方で、OpenAI 周りの大きなアップデートは AI Studio が AI Foundry にリネームされてくらいでした。これはシステムを構築する際に OpenAI と繋ぎ込む Azure リソースへの関心や重要性が高まっていて、OpenAI を活用したソリューションを構築するフェーズに入ったことを意味していると感じました。会場の様子McCormick Place には1～3階の各フロアに部屋があって、自由に聞きたいセッションを選べます。昨年のシアトルの会場と比較しても、かなり広い会場でセッション間の移動が大変でした。HUB はパートナーのブースやシアターセッションがある広い会場でした。エキスパートのブースもあったので、Azure Functions チームに Flex Consumption を Japan リージョンにもデプロイしてほしいとフィードバックしておきました。MVP と RD の名前が書かれた Wall もあって、自分の名前を発見して安心しました。Ignite 飯は全体的に例年並みでしたが、スープが美味しかったです。最近は危険な料理を避ける嗅覚が身に付いてきた感があります。今回の戦利品。Backpack と Water Bottle が貰えたので、Ignite 期間中は重宝しました。Microsoft Ignite and AMD CelebrationDay3 のパーティ会場は、ミシガン湖岸にある Navy Pier でした。シカゴ ループ（地下鉄の路線図）をモチーフにしたパーティになっており、お酒を飲んだりご飯を食べたりしながらライブやゲームを楽しめました。まとめMicrosoft Ignite 2024 にシカゴで現地参加してきました。gooner.hateblo.jp

Microsoft Ignite 2024 に現地参加してきました

先週末、第4回 Azure Travelers 勉強会 福岡の旅に参加してきました。jat.connpass.com勉強会オルターブースさんの全面協力のもと、エンジニアカフェで行われました。engineercafe.jpセッションでは、Entra External ID、Platform Engineering、生成 AI など興味深い内容が多く、会場を巻き込みながらインタラクティブに進行できる雰囲気がよかったです。午前中のみ配信のアーカイブがあります。www.youtube.com印象に残ったのは、パネルディスカッションで話題に挙がった福岡におけるハッカソンへの取り組みでした。ハックツハッカソンのような学生向けのハッカソンが定期開催されていて、オルターブースのメンバーが入社するきっかけになったそうです。cup.hackz.team懇親会の出席率も高かったですし、中州で食べた鯖や鯵など福岡名物の青魚が美味しかったです。そのあとはラーメンを食べに行ったり、屋台に行ったりしました。Azure Travelers では、開催地をサイコロで決める水曜どうでしょう的なルールがあり、次々回は四国に決定しました。勉強会以外にも、いろいろと観光して福岡を満喫しました。観光した話は、こちらの記事を参照してください。gooner.hateblo.jpまとめAzure Travelers のコミュニティは２回目の参加で、今回も楽しいイベントでした。欲を言えば、開催地の地元の人に多く参加してもらえるといいなと思いました。ちなみに、第3回の山形の旅は、こちらの記事を参照してください。gooner.hateblo.jp

第4回 Azure Travelers 勉強会 福岡の旅に参加してきました

Japan Azure User Group 14周年イベントに参加して、Azure App Service on Linux の Sidecar に Phi-3 を配置するアーキテクチャの話をしてきました。jazug.connpass.comApp Service の Sidecar に SLM をセルフホストするアーキテクチャを中心に、Sidecar の使いどころの考察も含めて話しました。www.youtube.com speakerdeck.comまだ Preview なので、実運用には足りない機能や制約もありますが、これからのインテリジェントアプリケーション開発において注目したいアーキテクチャです。X（Twitter）での反応は比較的好評で楽しんでいただけたようですし、数名の方から直接フィードバックをいただくこともできたので、話して良かったなと思いました。どのくらいの App Service Plan が必要になるのか？Sidecar で SLM を動かすためには、相応の SKU の App Service Plan が必要です。デモしたアプリは Premium v3 P3V3（CPU 8、Memory 32GB）を選択していました。Sidecar がリソースを消費しすぎてメインアプリに影響を与えそうSidecar の SLM が多くのリソース（CPU と Memory）を消費してしまうことで、メインのアプリケーションに影響を与えてしまうリスクがあります。kubernetes.io公式フォーラムにフィードバックしておきました。https://feedback.azure.com/d365community/idea/83acbe10-6584-ef11-9442-6045bd8115dc今回のイベントでは、JAZUG に初参加の方が多くいました。お仕事でも趣味でも Azure が好きな人たちが集まって楽しめるコミュニティになるように、15周年に向けて盛り上げていきたいです。

Japan Azure User Group 14周年イベントで Azure App Service の Sidecar の話をしてきました

Azure Functions では、Azure OpenAI 向けの拡張機能（Preview）が提供されています。learn.microsoft.com今回は、拡張機能の Assistant trigger を使って、Chat completion binding で構築したチャットアシスタントにカスタムスキルを追加してみました。gooner.hateblo.jpgooner.hateblo.jpgooner.hateblo.jpAssistant trigger とはFunction に Assistant trigger を定義することで、チャットアシスタントにカスタムスキルを提供できます。OpenAI の Function calling が内部的に使われており、呼び出す Function とそのタイミングを判定してくれます。learn.microsoft.com前準備Azure Functions を Isolated worker model で作成し、NGet ライブラリをインストールします。インストールする前に、Visual Studio などのテンプレートで作成されたプロジェクトのライブラリ群を最新版に更新しておくことをお勧めします。$ dotnet add package Microsoft.Azure.Functions.Worker.Extensions.OpenAI --version 0.16.0-alphalocal.settings.json において、Azure OpenAI Service の エンドポイントとキーを定義しておきます。{  "IsEncrypted": false,  "Values": {    "AzureWebJobsStorage": "UseDevelopmentStorage=true",    "FUNCTIONS_WORKER_RUNTIME": "dotnet-isolated",    "AZURE_OPENAI_ENDPOINT": "https://xxx-xxx-eastus2.cognitiveservices.azure.com/",    "AZURE_OPENAI_KEY": "xxx",    "CHAT_MODEL_DEPLOYMENT_NAME": "gpt-4o"  }エンドポイントとキーは、Azure Portal ではなく、AI Foundry の情報を使います。間違えると、404 エラーが発生します。カスタムスキルを追加するAssistantSkillTrigger のバインディングを使って、チャットアシスタントによってトリガーできる２つの Function を作成します。Todo リストにタスクを追加するTodo リストからタスクを取得する関数と引数の名前、AssistantSkillTrigger で定義する説明は、Function calling が呼び出す Function とそのタイミングを判断するための重要な情報となります。public class AssistantSkills{    private readonly ITodoManager _todoManager;    private readonly ILogger<AssistantSkills> _logger;    public AssistantSkills(ITodoManager todoManager, ILogger<AssistantSkills> logger)    {        _todoManager = todoManager;        _logger = logger;    }    [Function(nameof(AddTodo))]    public Task AddTodo([AssistantSkillTrigger("Create a new todo task")] string taskDescription)    {        if (string.IsNullOrEmpty(taskDescription))        {            throw new ArgumentException("Task description cannot be empty");        }        _logger.LogInformation("Adding todo: {task}", taskDescription);        string todoId = Guid.NewGuid().ToString()[..6];        return _todoManager.AddTodoAsync(new TodoItem(todoId, taskDescription));    }    [Function(nameof(GetTodos))]    public Task<IReadOnlyList<TodoItem>> GetTodos(        [AssistantSkillTrigger("Fetch the list of previously created todo tasks")] object inputIgnored)    {        _logger.LogInformation("Fetching list of todos");        return _todoManager.GetTodosAsync();    }}Todo リストに追加するタスクの永続化は、データベースを使わずに、オンメモリで保持するようにしました。public record TodoItem(string Id, string Task);public interface ITodoManager{    Task AddTodoAsync(TodoItem todo);    Task<IReadOnlyList<TodoItem>> GetTodosAsync();}class InMemoryTodoManager : ITodoManager{    readonly List<TodoItem> todos = new();    public Task AddTodoAsync(TodoItem todo)    {        this.todos.Add(todo);        return Task.CompletedTask;    }    public Task<IReadOnlyList<TodoItem>> GetTodosAsync()    {        return Task.FromResult<IReadOnlyList<TodoItem>>(this.todos.ToImmutableList());    }}最後に、Program.cs で TodoManager のインスタンスを追加しておきます。var host = new HostBuilder()    .ConfigureFunctionsWebApplication()    .ConfigureServices(services =>    {        services.AddApplicationInsightsTelemetryWorkerService();        services.ConfigureFunctionsApplicationInsights();        services.AddSingleton<ITodoManager, InMemoryTodoManager>();    })    .Build();host.Run();    動作確認VS Code 拡張機能の REST Client を使って、チャットアシスタントと会話してみます。新しいアシスタントを作成する@function_app_HostAddress = http://localhost:7074### Assistant create output bindingPUT {{function_app_HostAddress}}/api/chat/1 HTTP/1.1content-type: application/jsonHTTP/1.1 201 CreatedContent-Type: application/json; charset=utf-8Date: Sat, 07 Sep 2024 14:06:32 GMTServer: KestrelTransfer-Encoding: chunked{  "assistantId": "1"}    アシスタントにタスクの追加を依頼する### Assistant triggerPOST {{function_app_HostAddress}}/api/chat/1 HTTP/1.1content-type: application/json{  "userMessage": "出張の新幹線を予約するのを忘れないように"}HTTP/1.1 200 OKContent-Type: text/plain; charset=utf-8Date: Sat, 07 Sep 2024 14:12:52 GMTServer: KestrelTransfer-Encoding: chunked「出張の新幹線を予約するのを忘れないように」というタスクを追加しました。さらに、もう１つタスクを追加してみます。### Assistant triggerPOST {{function_app_HostAddress}}/api/chat/1 HTTP/1.1content-type: application/json{  "userMessage": "それと、ホテルの予約も"}HTTP/1.1 200 OKContent-Type: text/plain; charset=utf-8Date: Sat, 07 Sep 2024 14:13:46 GMTServer: KestrelTransfer-Encoding: chunked「ホテルの予約をする」というタスクも追加しました。    アシスタントに今日のタスクを確認する### Assistant triggerPOST {{function_app_HostAddress}}/api/chat/1 HTTP/1.1content-type: application/json{  "userMessage": "今日は何をすればいい？"}HTTP/1.1 200 OKContent-Type: text/plain; charset=utf-8Date: Sat, 07 Sep 2024 14:14:27 GMTServer: KestrelTransfer-Encoding: chunked今日のタスクは以下の通りです：1. 出張の新幹線を予約するのを忘れないように2. ホテルの予約をする頑張ってください！チャットアシスタントから今日のタスクが回答されたことが分かります。まとめAzure Functions 拡張機能の Assistant trigger を使って、Chat completion binding で構築したチャットアシスタントにカスタムスキルを追加してみました。今回のソースコードは、こちらのリポジトリで公開しています。github.com

Azure Functions の Azure OpenAI Extension を使ってチャットアシスタントにカスタムスキルを追加する

Azure Functions では、Azure OpenAI 向けの拡張機能（Preview）が提供されています。learn.microsoft.com今回は、拡張機能の Chat completion binding を使って、チャットアシスタントを構築してみました。gooner.hateblo.jpgooner.hateblo.jpgooner.hateblo.jpChat completion binding とはチャットアシスタント向けの３種類の binding が提供されています。Assistant create output bindingAssistant create output binding を使うことで、指定したシステムプロンプトによる新しいアシスタントを作成できます。learn.microsoft.comAssistant post input bindingAssistant post input binding を使うことで、アシスタントにメッセージを送信するとともに、Table Storage にメッセージ内容を永続化します。learn.microsoft.comAssistant query input bindingAssistant query input binding を使うことで、アシスタントが永続化したチャット履歴を取得できます。learn.microsoft.com前準備Azure Functions を Isolated worker model で作成し、NGet ライブラリをインストールします。インストールする前に、Visual Studio などのテンプレートで作成されたプロジェクトのライブラリ群を最新版に更新しておくことをお勧めします。$ dotnet add package Microsoft.Azure.Functions.Worker.Extensions.OpenAI --version 0.16.0-alphalocal.settings.json において、Azure OpenAI Service の エンドポイントとキーを定義しておきます。{  "IsEncrypted": false,  "Values": {    "AzureWebJobsStorage": "UseDevelopmentStorage=true",    "FUNCTIONS_WORKER_RUNTIME": "dotnet-isolated",    "AZURE_OPENAI_ENDPOINT": "https://xxx-xxx-eastus2.cognitiveservices.azure.com/",    "AZURE_OPENAI_KEY": "xxx",    "CHAT_MODEL_DEPLOYMENT_NAME": "gpt-4o"  }エンドポイントとキーは、Azure Portal ではなく、AI Foundry の情報を使います。間違えると、404 エラーが発生します。新しいアシスタントを作成するAssistantCreateOutput のバインディングを使うことで、指定した ID とシステムプロンプトを持つチャットアシスタントを作成できます。作成した結果は、AssistantCreateRequest で受け取ることができます。public class Chat{    private readonly ILogger<Chat> _logger;    public Chat(ILogger<Chat> logger)    {        _logger = logger;    }    [Function(nameof(CreateAssistant))]    public CreateAssistantOutput CreateAssistant(        [HttpTrigger(AuthorizationLevel.Function, "put", Route = "chat/{assistantId}")] HttpRequest req,        string assistantId)    {        _logger.LogInformation("Assistant create output binding function processed a request.");        var responseJson = new { assistantId };        var instructions = """            You are an AI assistant that helps people find information.            """;        return new CreateAssistantOutput        {            HttpResponse = new OkObjectResult(responseJson) { StatusCode = 201 },            AssistantCreateRequest = new AssistantCreateRequest(assistantId, instructions)        };    }    public class CreateAssistantOutput    {        [AssistantCreateOutput()]        public AssistantCreateRequest? AssistantCreateRequest { get; set; }        [HttpResult]        public IActionResult? HttpResponse { get; set; }    }}    アシスタントにメッセージを送信するAssistantPostInput のバインディングを使うことで、チャットアシスタントにメッセージ（プロンプト）を送信できます。送信した結果は、AssistantState で受け取ることができます。[Function(nameof(PostUserMessage))]public IActionResult PostUserMessage(    [HttpTrigger(AuthorizationLevel.Anonymous, "post", Route = "chat/{assistantId}")] HttpRequestData req,    string assistantId,    [AssistantPostInput("{assistantId}", "{userMessage}", Model = "%CHAT_MODEL_DEPLOYMENT_NAME%")] AssistantState state){    _logger.LogInformation("Assistant post input binding function processed a request.");    return new OkObjectResult(state.RecentMessages.LastOrDefault()?.Content ?? "No response returned.");}    チャット履歴を取得するAssistantQueryInput のバインディングを使うことで、チャットアシスタントが永続化したチャット履歴を取得するクエリを送信できます。クエリ結果は、AssistantState で受け取ることができます。[Function(nameof(GetChatState))]public IActionResult GetChatState(    [HttpTrigger(AuthorizationLevel.Anonymous, "get", Route = "chat/{assistantId}")] HttpRequestData req,    string assistantId,    [AssistantQueryInput("{assistantId}", TimestampUtc = "{timestampUtc}")] AssistantState state){    _logger.LogInformation("Assistant query input binding function processed a request.");    return new OkObjectResult(state);}    動作確認VS Code 拡張機能の REST Client を使って、チャットアシスタントと会話してみます。新しいアシスタントを作成する@function_app_HostAddress = http://localhost:7074### Assistant create output bindingPUT {{function_app_HostAddress}}/api/chat/1 HTTP/1.1content-type: application/jsonHTTP/1.1 201 CreatedContent-Type: application/json; charset=utf-8Date: Sat, 07 Sep 2024 05:33:20 GMTServer: KestrelTransfer-Encoding: chunked{  "assistantId": "1"}    アシスタントにメッセージを送信する### Assistant post input bindingPOST {{function_app_HostAddress}}/api/chat/1 HTTP/1.1content-type: application/json{  "userMessage": "京都のお勧めの観光地はどこですか?"}HTTP/1.1 200 OKContent-Type: text/plain; charset=utf-8Date: Sat, 07 Sep 2024 05:35:26 GMTServer: KestrelTransfer-Encoding: chunked京都には多くの美しい観光地があります。いくつかのお勧めを紹介します。1. **清水寺（きよみずでら）**：   - 世界遺産にも登録されている清水寺は、特に「清水の舞台」からの眺めが見どころです。春の桜や秋の紅葉の季節がお勧めです。2. **金閣寺（きんかくじ）**：   - その美しい金色の外観で有名な金閣寺。正式名は鹿苑寺（ろくおんじ）で、日本の歴史や文化を感じることができます。3. **銀閣寺（ぎんかくじ）**：   - 正式には慈照寺（じしょうじ）。庭園と一緒に楽しむ禅の雰囲気が魅力です。4. **伏見稲荷大社（ふしみいなりたいしゃ）**：   - 多数の鳥居が連なり、その美しい光景で知られる伏見稲荷。山全体に広がる参道を散策すると、日本の伝統文化に触れることができます。5. **嵐山（あらしやま）**：   - 自然豊かな嵐山エリアは、竹林の道や渡月橋（とげつきょう）など、美しい風景が楽しめます。また、トロッコ列車や保津川下りも人気です。6. **二条城（にじょうじょう）**：   - 世界遺産に登録されている歴史的な城で、美しい庭園や御殿内に描かれた障壁画が見所です。7. **祇園（ぎおん）**：   - 京都の伝統的な街並みを感じることができるエリア。舞妓さんや茶屋など、日本の古き良き風情が楽しめます。8. **天龍寺（てんりゅうじ）**：   - 世界遺産である天龍寺は、美しい庭園が特徴です。特に曹源池庭園（そうげんちていえん）は見逃せません。これら以外にも、京都には多数の素晴らしい観光地やお寺があります。訪れる時期や興味に合わせて計画を立ててくださいね。チャットアシスタントから京都のお勧めの観光地が回答されたことが分かります。チャット履歴を取得する### Assistant query input bindingGET {{function_app_HostAddress}}/api/chat/1?TimestampUtc=2024-09-06T00:00:00Accept: application/jsonHTTP/1.1 200 OKContent-Type: application/json; charset=utf-8Date: Sat, 07 Sep 2024 05:40:48 GMTServer: KestrelTransfer-Encoding: chunked{  "id": "1",  "exists": true,  "createdAt": "2024-09-07T05:33:21.9599132Z",  "lastUpdatedAt": "2024-09-07T05:35:27.1306636Z",  "totalMessages": 3,  "totalTokens": 594,  "recentMessages": [    {      "content": "You are an AI assistant that helps people find information.",      "role": "system",      "name": null    },    {      "content": "京都のお勧めの観光地はどこですか?",      "role": "user",      "name": null    },    {      "content": "京都には多くの美しい観光地があります。いくつかのお勧めを紹介します。\n\n1. **清水寺（きよみずでら）**：\n   - 世界遺産にも登録されている清水寺は、特に「清水の舞台」からの眺めが見どころです。春の桜や秋の紅葉の季節がお勧めです。\n\n2. **金閣寺（きんかくじ）**：\n   - その美しい金色の外観で有名な金閣寺。正式名は鹿苑寺（ろくおんじ）で、日本の歴史や文化を感じることができます。\n\n3. **銀閣寺（ぎんかくじ）**：\n   - 正式には慈照寺（じしょうじ）。庭園と一緒に楽しむ禅の雰囲気が魅力です。\n\n4. **伏見稲荷大社（ふしみいなりたいしゃ）**：\n   - 多数の鳥居が連なり、その美しい光景で知られる伏見稲荷。山全体に広がる参道を散策すると、日本の伝統文化に触れることができます。\n\n5. **嵐山（あらしやま）**：\n   - 自然豊かな嵐山エリアは、竹林の道や渡月橋（とげつきょう）など、美しい風景が楽しめます。また、トロッコ列車や保津川下りも人気です。\n\n6. **二条城（にじょうじょう）**：\n   - 世界遺産に登録されている歴史的な城で、美しい庭園や御殿内に描かれた障壁画が見所です。\n\n7. **祇園（ぎおん）**：\n   - 京都の伝統的な街並みを感じることができるエリア。舞妓さんや茶屋など、日本の古き良き風情が楽しめます。\n\n8. **天龍寺（てんりゅうじ）**：\n   - 世界遺産である天龍寺は、美しい庭園が特徴です。特に曹源池庭園（そうげんちていえん）は見逃せません。\n\nこれら以外にも、京都には多数の素晴らしい観光地やお寺があります。訪れる時期や興味に合わせて計画を立ててくださいね。",      "role": "assistant",      "name": null    }  ]}Table Storage の OpenAIChatState テーブルを確認すると、チャット履歴が永続化されています。まとめAzure Functions 拡張機能の Chat completion binding を使って、チャットアシスタントを構築してみました。今回のソースコードは、こちらのリポジトリで公開しています。github.com

Azure Functions の Azure OpenAI Extension を使ってチャットアシスタントを構築する

Azure Functions では、Azure OpenAI 向けの拡張機能（Preview）が提供されています。learn.microsoft.com今回は、拡張機能の Embeddings binding を使って、ベクトル検索を構築してみました。gooner.hateblo.jpgooner.hateblo.jpgooner.hateblo.jpEmbeddings binding とはベクトル検索を構築するための３種類の binding が提供されています。ベクトルストアは AI Search や Cosmos DB に対応しており、今回は AI Search を使います。Embeddings input bindingEmbeddings input binding を使うことで、テキストやファイルを Embedding することができます。learn.microsoft.comEmbeddings store output bindingEmbeddings store output binding を使うことで、テキストやファイルを Embedding してベクトルストアに書き込むことができます。learn.microsoft.comSemantic search input bindingSemantic search input binding を使うことで、ベクトルストアに対してセマンティック検索を実行できます。learn.microsoft.com前準備Azure Functions を Isolated worker model で作成し、NGet ライブラリをインストールします。インストールする前に、Visual Studio などのテンプレートで作成されたプロジェクトのライブラリ群を最新版に更新しておくことをお勧めします。$ dotnet add package Microsoft.Azure.Functions.Worker.Extensions.OpenAI --version 0.16.0-alpha$ dotnet add package Microsoft.Azure.Functions.Worker.Extensions.OpenAI.AzureAISearch --version 0.3.0-alpha$ dotnet add package Azure.Search.Documents --version 11.6.0local.settings.json において、Azure OpenAI Service と AI Search の エンドポイントとキーを定義しておきます。{  "IsEncrypted": false,  "Values": {    "AzureWebJobsStorage": "UseDevelopmentStorage=true",    "FUNCTIONS_WORKER_RUNTIME": "dotnet-isolated",    "AZURE_OPENAI_ENDPOINT": "https://xxx-xxx-eastus2.cognitiveservices.azure.com/",    "AZURE_OPENAI_KEY": "xxx",    "CHAT_MODEL_DEPLOYMENT_NAME": "gpt-4o",    "EMBEDDING_MODEL_DEPLOYMENT_NAME": "text-embedding-ada-002",    "AISearchEndpoint": "https://xxx.search.windows.net",    "SearchAPIKey": "xxx"  }}エンドポイントとキーは、Azure Portal ではなく、AI Foundry の情報を使います。間違えると、404 エラーが発生します。host.json において、セマンティック検索の構成を定義しておきます。{  "extensions": {    "openai": {      "searchProvider": {        "type": "azureAiSearch",        "isSemanticSearchEnabled": true,        "useSemanticCaptions": true,        "vectorSearchDimensions": 1536,        "searchAPIKeySetting": "SearchAPIKey"      }    }  }}    テキストを Embedding するEmbeddingsInput のバインディングを使うことで、AOAI の Embedding Model を使ってテキストを Embedding できます。Embedding した結果は、EmbeddingsContext で受け取ることができます。public class Embeddings{    private readonly ILogger<Embeddings> _logger;    public Embeddings(ILogger<Embeddings> logger)    {        _logger = logger;    }    [Function(nameof(GenerateEmbeddings))]    public async Task GenerateEmbeddings(        [HttpTrigger(AuthorizationLevel.Function, "post", Route = "embeddings/generate")] HttpRequestData req,        [EmbeddingsInput("{rawText}", InputType.RawText, Model = "%EMBEDDING_MODEL_DEPLOYMENT_NAME%")] EmbeddingsContext embeddings)    {        _logger.LogInformation("Embeddings input binding function processed a request.");        var requestBody = await req.ReadFromJsonAsync<GenerateEmbeddingsRequest>();        if (requestBody?.RawText == null)        {            throw new ArgumentException("Invalid request body. Make sure that you pass in {\"RawText\": value } as the request body.");        }        _logger.LogInformation(            "Received {count} embedding(s) for input text containing {length} characters.",            embeddings.Count,            requestBody?.RawText?.Length);        // TODO: Store the embeddings into a database or other storage.    }    internal class GenerateEmbeddingsRequest    {        public string? RawText { get; set; }    }}なお、EmbeddingsInput のバインディングでは、InputType で FilePathや Url も指定できます。テキストを Embedding してベクトルストアに書き込むEmbeddingsStoreOutput のバインディングを使うことで、AOAI の Embedding Model を使ってテキストを  Embedding した結果をベクトルストアに書き込むことができます。AI Search に openai-index という名前のインデックスを作成するように指定しています。[Function(nameof(IngestEmbeddings))]public async Task<EmbeddingsStoreOutputResponse> IngestEmbeddings(    [HttpTrigger(AuthorizationLevel.Function, "post", Route = "embeddings/ingest")] HttpRequestData req){    _logger.LogInformation("Embeddings store output binding function processed a request.");    var requestBody = await req.ReadFromJsonAsync<IngestEmbeddingsRequest>();    if (requestBody?.RawText == null || requestBody?.Title == null)    {        throw new ArgumentException("Invalid request body. Make sure that you pass in {\"RawText\": value, \"Title\": value} as the request body.");    }    IActionResult result = new OkObjectResult(new { status = HttpStatusCode.OK });    return new EmbeddingsStoreOutputResponse    {        HttpResponse = result,        SearchableDocument = new SearchableDocument(requestBody.Title)    };}internal class IngestEmbeddingsRequest{    public string? RawText { get; set; }    public string? Title { get; set; }}public class EmbeddingsStoreOutputResponse{    [EmbeddingsStoreOutput("{RawText}", InputType.RawText, "AISearchEndpoint", "openai-index", Model = "%EMBEDDING_MODEL_DEPLOYMENT_NAME%")]    public required SearchableDocument SearchableDocument { get; init; }    public IActionResult? HttpResponse { get; set; }}なお、EmbeddingsStoreOutput のバインディングでは、InputType で FilePathや Url も指定できます。ベクトルストアに対してセマンティック検索を実行するSemanticSearchInput のバインディングを使うことで、ベクトルストアに対してセマンティック検索を実行できます。AI Search の openai-index という名前のインデックスから検索します。検索結果は、SemanticSearchContext で受け取ることができます。[Function(nameof(SemanticSearch))]public IActionResult SemanticSearch(    [HttpTrigger(AuthorizationLevel.Function, "post", Route = "embeddings/search")] SemanticSearchRequest unused,    [SemanticSearchInput("AISearchEndpoint", "openai-index", Query = "{Prompt}", ChatModel = "%CHAT_MODEL_DEPLOYMENT_NAME%", EmbeddingsModel = "%EMBEDDING_MODEL_DEPLOYMENT_NAME%")] SemanticSearchContext result){    _logger.LogInformation("Semantic search input binding function processed a request.");    return new ContentResult { Content = result.Response, ContentType = "text/plain" };}なお、SemanticSearchInput のバインディングでは、検索オプションを指定できます。動作確認VS Code 拡張機能の REST Client を使って、ベクトル検索を実行してみます。テキストを Embedding する@function_app_HostAddress = http://localhost:7074### Embeddings input bindingPOST {{function_app_HostAddress}}/api/embeddings/generate HTTP/1.1content-type: application/json{  "rawText": "暑い日に食べられている京菓子は？"}テキストを Embedding してベクトルストアに書き込む### Embeddings store output bindingPOST {{function_app_HostAddress}}/api/embeddings/ingest HTTP/1.1content-type: application/json< ./Data/request-body01.jsonベクトル化する JSON は、別ファイル（request-body01.json）に切り出しています。{  "rawText": "花びら餅は、京都の伝統的な和菓子で、美しい花びら模様の薄い皮と甘さ控えめのあんこが特徴です。この和菓子は季節ごとにバリエーションが楽しめ、茶道やお茶うけに使われ、京都のお土産として人気があります。見た目も美しく、食べるだけでなく、芸術的な価値も持っています。また、花びら餅は季節感あふれる和菓子で、特に春に楽しまれます。春の季節になると、桜の花びらを使った花びら餅が登場し、桜の風味を楽しむことができます。この季節になると、花見のお供としても愛され、桜の美しさと和の風情を同時に楽しむことができます。花びら餅は、京都の伝統を受け継ぐ和菓子として、その美しさと風味によって多くの人に愛されています。",  "title": "花びら餅"}花びら餅のほかに、若鮎、栗饅頭、八つ橋のデータをベクトル化しました。ベクトルストアに対してセマンティック検索を実行する### Semantic search input bindingPOST {{function_app_HostAddress}}/api/embeddings/search HTTP/1.1content-type: application/json{  "prompt": "暑い日に食べられている京菓子は？"}HTTP/1.1 200 OKContent-Length: 175Content-Type: text/plainDate: Sat, 07 Sep 2024 11:02:22 GMTServer: Kestrel暑い日に食べられている京菓子の一例として、「若鮎」があります。若鮎は初夏を涼しげに彩る京の季節菓子です。Reference: 若鮎ベクトル検索で「若鮎」が返却されたことが分かります。まとめAzure Functions 拡張機能の Embeddings binding を使って、Azure AI Search によるベクトル検索を構築してみました。今回のソースコードは、こちらのリポジトリで公開しています。github.com

Azure Functions の Azure OpenAI Extension を使ってベクトル検索を構築する

Azure Functions では、Azure OpenAI 向けの拡張機能（Preview）が提供されています。learn.microsoft.com今回は、拡張機能の Text completion input binding を使って、コンテンツを要約してみました。gooner.hateblo.jpgooner.hateblo.jpgooner.hateblo.jpText completion input binding とはText completion input binding を使うことで、Azure OpenAI Service の Text Completions API を呼び出して、結果を取得できます。learn.microsoft.com前準備Azure Functions を Isolated worker model で作成し、NGet ライブラリをインストールします。インストールする前に、Visual Studio などのテンプレートで作成されたプロジェクトのライブラリ群を最新版に更新しておくことをお勧めします。$ dotnet add package Microsoft.Azure.Functions.Worker.Extensions.OpenAI --version 0.16.0-alphalocal.settings.json において、Azure OpenAI Service の エンドポイントとキーを定義しておきます。{  "IsEncrypted": false,  "Values": {    "AzureWebJobsStorage": "UseDevelopmentStorage=true",    "FUNCTIONS_WORKER_RUNTIME": "dotnet-isolated",    "AZURE_OPENAI_ENDPOINT": "https://xxx-xxx-eastus2.cognitiveservices.azure.com/",    "AZURE_OPENAI_KEY": "xxx",    "CHAT_MODEL_DEPLOYMENT_NAME": "gpt-4o"  }エンドポイントとキーは、Azure Portal ではなく、AI Foundry の情報を使います。間違えると、404 エラーが発生します。Function を実装するTextCompletionInput のバインディングを使うことで HTTP リクエストの prompt という JSON のテキストを AOAI に渡す部分の繋ぎ込みを行ってくれます。AOAI からのレスポンスは、TextCompletionResponse から取得できます。public class Text{    private readonly ILogger<Text> _logger;    public Text(ILogger<Text> logger)    {        _logger = logger;    }    [Function(nameof(GenerateText))]    public IActionResult GenerateText(        [HttpTrigger(AuthorizationLevel.Function, "post", Route = "text")] HttpRequest req,        [TextCompletionInput("{prompt}", Model = "%CHAT_MODEL_DEPLOYMENT_NAME%")] TextCompletionResponse response)    {        _logger.LogInformation("Text completion input binding function processed a request.");        return new OkObjectResult(response.Content);    }}なお、TextCompletionInput のバインディングでは、Temperature や MaxTokens なども指定できます。動作確認VS Code 拡張機能の REST Client を使って、2024/25 Premier League の Arsenal の開幕戦の Match Report を要約してみます。@function_app_HostAddress = http://localhost:7074### Text completion input bindingPOST {{function_app_HostAddress}}/api/text HTTP/1.1Accept: application/json{  "prompt": "  Kai Havertz got the scoring started when he nodded home a Bukayo Saka cross after 25 minutes,   but the visitors would cause us some nervy moments either side of the break with David Raya needing to be at his best to keep us in front.  However Saka added a goal to his afternoon’s work when he blasted home at the near post to ensure we recorded a seventh-straight win against the Molineux side,   and see the superb form from the final few months of last season flow into the new campaign.  One line TLDR with the fewest words."}HTTP/1.1 200 OKContent-Type: application/json; charset=utf-8Date: Sat, 07 Sep 2024 01:43:00 GMTServer: KestrelTransfer-Encoding: chunked"Arsenal wins 2-0 against Molineux with goals from Havertz and Saka."ハバーツとサカのゴールで勝利したことが分かります。まとめAzure Functions 拡張機能の Text completion input binding を使って、コンテンツを要約してみました。今回のソースコードは、こちらのリポジトリで公開しています。github.com

Azure Functions の Azure OpenAI Extension を使ってコンテンツを要約する

2024年7月1日付けで、Microsoft Most Valuable Professional (MVP) アワードを再受賞しました。カテゴリは Microsoft Azure から AI Platform に変更となりましたが、8 年目の受賞となります。昨年の主な活動内容イベントの登壇は、第46回 Tokyo Jazug Night の Azure OpenAI Service の社内導入事例セッションとなります。gooner.hateblo.jpブログでも、Azure OpenAI Service ネタが多めでした。OpenAI 関連の情報は非常に多いですが、.NET エンジニアの観点での情報を発信しました。生成 AI ブームの影響でお仕事でも RAG を構築する案件が多かったです。gooner.hateblo.jp今年の活動目標JAZUG のイベントは、オフラインとのハイブリッドで開催しているので、登壇だけでなく運営もお手伝いも継続していきます。jazug.connpass.com技術領域としては、Azure OpenAI Service 周りに加えて、原点回帰というか Azure App Servcie や Azure Functions を中心とした情報も発信できたらと思います。

Microsoft MVP を再受賞しました

ネクストスケープでは、会社やチームの技術ブログを集約する Hub のようなサイト（Team Blog Hub）を作って公開しています。gooner.hateblo.jp現象最新の投稿を取得するために Schedule トリガーでパイプラインを毎日実行させていますが、2024/8/15 からエラーが発生するようになりました。詳細なエラーメッセージをこちらです。Error: error:0308010C:digital envelope routines::unsupportedat new Hash (node:internal/crypto/hash:79:19)at Object.createHash (node:crypto:139:10)at module.exports (C:\develop\team-blog-hub\node_modules\webpack\lib\util\createHash.js:135:53)at NormalModule._initBuildHash (C:\develop\team-blog-hub\node_modules\webpack\lib\NormalModule.js:417:16)at handleParseError (C:\develop\team-blog-hub\node_modules\webpack\lib\NormalModule.js:471:10)at C:\develop\team-blog-hub\node_modules\webpack\lib\NormalModule.js:503:5at C:\develop\team-blog-hub\node_modules\webpack\lib\NormalModule.js:358:12at C:\develop\team-blog-hub\node_modules\loader-runner\lib\LoaderRunner.js:373:3at iterateNormalLoaders (C:\develop\team-blog-hub\node_modules\loader-runner\lib\LoaderRunner.js:214:10)at Array. (C:\develop\team-blog-hub\node_modules\loader-runner\lib\LoaderRunner.js:205:4) {opensslErrorStack: ['error:03000086:digital envelope routines::initialization error','error:0308010C:digital envelope routines::unsupported'],library: 'digital envelope routines',reason: 'unsupported',code: 'ERR_OSSL_EVP_UNSUPPORTED'ローカルの開発環境でビルドを実行した際にも、エラーが再現しました。原因エラーメッセージをインターネットで検索してみると、OpenSSL の互換性エラーだと分かりました。nodejs.org対応環境変数を設定することで、OpenSSL のレガシープロバイダーを有効にできます。$ export NODE_OPTIONS=--openssl-legacy-providerpackage.json で環境変数を設定すると、ローカルの開発環境でビルドが成功しました。{  "name": "my-app",  "version": "0.1.0",  "private": true,  "scripts": {    "dev": "set NODE_OPTIONS=--openssl-legacy-provider && next dev",    "build": "run-s build:posts build:next",    "build:posts": "ts-node --project tsconfig.builder.json ./src/builder/posts.ts",    "build:next": "set NODE_OPTIONS=--openssl-legacy-provider && next build && next export",    "start": "set NODE_OPTIONS=--openssl-legacy-provider && next start"  },}この修正だけでは GitHub Actions 内でのビルドは成功しなかったので、workflow の yml でも環境変数を設定しました。name: Azure Static Web Apps CI/CD Timer Triggeron:  schedule:    - cron:  '0 6 * * *'jobs:  build_and_deploy_job:    runs-on: ubuntu-latest    name: Build and Deploy Job    env:      NODE_OPTIONS: --openssl-legacy-provider    steps:      - uses: actions/checkout@v2        with:          submodules: true    まとめGitHub Actions から Azure Static Web Apps へのデプロイが OpenSSL の互換性エラーで失敗していたので、環境変数を設定して対応しました。修正内容の詳細は、こちらの Pull Request を参照してください。github.com

GitHub Actions から Azure Static Web Apps へのデプロイが OpenSSL の互換性エラーで失敗していた件

Azure App Service on Linux に Sidecar パターン機能（Public Preview）が追加されていますが、Phi-3 を Sidecar にデプロイするユースケースの記事が公開されていました。azure.github.ioSidecar パターンの特性に適していて、生成 AI を活用した Web アプリケーションのアーキテクチャとして非常に面白そうだと感じました。App Service の Sidecar パターンについては、前回の記事を参照してください。gooner.hateblo.jpSidecar アプリケーションを作成するPhi-3 は、Microsoft によって開発された Small Language Models（SLM）です。Phi-3 モデルの呼び出しをサポートするツールには Ollama を使い、Web アプリケーションから REST API で対話できるインターフェイスをもったコンテナーを作成します。Ollama は、ローカル環境で LLM や SLM のモデルを動かすことができるツールです。Phi-3 以外にも、Llama 3.1 や Google Gemma 2 などのモデルをサポートしています。ollama.com今回は Ollama の Docker Image をベースに Dockerfile を作成します。FROM ollama/ollama EXPOSE 11434 COPY startup.sh / RUN chmod +x /startup.sh ENTRYPOINT ["./startup.sh"]startup.sh では、Ollama で利用するモデルに Phi-3 を指定しています。#!/usr/bin/env bash # Start Ollama in the backgroundollama serve &sleep 5 # Pull and run phi3ollama pull phi3 # Restart ollama and run it in to foreground.pkill -f "ollama"ollama serveこの Docker イメージをDocker Hub にプッシュしておきます。$ docker build -t thara0402/sidecar-slm:0.1.0 ./$ docker push thara0402/sidecar-slm:0.1.0    Sidecar を呼び出す側のアプリケーションを作成するASP.NET Core で Sidecar を呼び出すシンプルな Web API を作成します。[Route("api/[controller]")][Produces("application/json")][ApiController]public class GenerateController : ControllerBase{private readonly IHttpClientFactory _httpClientFactory;private readonly IConfiguration _configuration;public GenerateController(IHttpClientFactory httpClientFactory, IConfiguration configuration){    _httpClientFactory = httpClientFactory;    _configuration = configuration;}[HttpPost]public async Task<ActionResult<string>> Post([FromBody] string prompt){    var sidecarUrl = _configuration["SIDECAR_SLM_URL"];    var json = @"    {        ""model"": ""phi3"",        ""prompt"": """ + prompt + @""",        ""stream"": false,        ""options"": {            ""num_keep"": 5,            ""num_predict"": 150,            ""seed"": 42,            ""top_k"": 1,            ""top_p"": 0.9,            ""tfs_z"": 0.5,            ""typical_p"": 0.7,            ""repeat_last_n"": 33,            ""temperature"": 0.8,            ""repeat_penalty"": 1.2,            ""presence_penalty"": 1.5,            ""frequency_penalty"": 1.0,            ""mirostat"": 1,            ""mirostat_tau"": 0.8,            ""mirostat_eta"": 0.6,            ""penalize_newline"": true,            ""stop"": [""<*end*>""],            ""num_thread"": 8        }    }";    var httpClient = _httpClientFactory.CreateClient();    var content = new StringContent(json, Encoding.UTF8, "application/json");    var response = await httpClient.PostAsync(sidecarUrl, content);    if (response.IsSuccessStatusCode)    {        var responseContent = await response.Content.ReadAsStringAsync();        return Ok(responseContent);    }    else    {        return StatusCode((int)response.StatusCode, response.ReasonPhrase);    }}Sidecar の URL については、appsettings.json に切り出しておきました。{  "Logging": {    "LogLevel": {      "Default": "Information",      "Microsoft.AspNetCore": "Warning"    }  },  "AllowedHosts": "*",  "SIDECAR_SLM_URL": "http://localhost:11434/api/generate"}上記以外のコードや Dockerfile はテンプレート通りなので説明は割愛します。$ docker build -t thara0402/sidecar-primary-app:0.6.0 ./$ docker push thara0402/sidecar-primary-app:0.6.0なお、Generate API 以外にも Ollama でモデルを実行および管理するための REST API エンドポイントが提供されています。github.comSidecar を構成した App Service をデプロイするApp Service on Linux に Sidecar パターンを構成していきます。リージョンは West Europe を指定しました。App Service を作成後、 Deployment Center から Sidecar のコンテナーを追加します。動作確認VS Code 拡張機能の REST Client からデプロイした Web API を呼び出してみます。@primary_app_HostAddress = https://<your-app-service-name>.azurewebsites.netPOST {{primary_app_HostAddress}}/api/generate/ HTTP/1.1content-type: application/json"What is Azure App Service?"###次のようなレスポンスが返却されており、期待される結果であることが分かります。{    "model": "phi3",    "created_at": "2024-08-14T07:48:51.268204818Z",    "response": "Azure Application Services (AppService) provides a platform-as-a-service for building, deploying and managing web apps. It supports multiple programming languages such as NodeJS/Express (JavaScript), .NET Core or PHP with frameworks like Laravel for building scalable, reliable and secure web applications. AppService also provides a range of features such as auto-scaling based on demand to ensure high availability with builtin load balancing, SSL offloading and more. It supports various databases including Azure SQL Database as a managed service for serverless database operations allowing users to manage their application' end-to endpoint communication without bothering about the underlying infrastructure. Furthermore, it offers webhook integration with GitHub and Azure DevOps providing continuous",    "done": true,    "done_reason": "length",    "context": [        32010,        29871,        13,        5618,        338,        12634,        2401,        6692,        29973,        32007,        29871,        13,        32001,        29871,        13,        28413,        8427,        15538,        313,        2052,        3170,        29897,        8128,        263,        7481,        29899,        294,        29899,        29874,        29899,        5509,        363,        5214,        29892,        7246,        292,        322,        767,        6751,        1856,        11446,        29889,        739,        11286,        2999,        8720,        10276,        1316,        408,        9071,        8700,        29914,        27404,        313,        16963,        511,        869,        6006,        10239,        470,        5048,        411,        29143,        763,        22238,        363,        5214,        8716,        519,        29892,        23279,        322,        11592,        1856,        8324,        29889,        2401,        3170,        884,        8128,        263,        3464,        310,        5680,        1316,        408,        4469,        29899,        19529,        292,        2729,        373,        9667,        304,        9801,        1880,        20847,        3097,        411,        4240,        262,        2254,        6411,        19985,        29892,        17122,        1283,        13234,        322,        901,        29889,        739,        11286,        5164,        21218,        3704,        12634,        3758,        5470,        408,        263,        8745,        2669,        363,        1923,        2222,        2566,        6931,        14372,        4160,        304,        10933,        1009,        2280,        29915,        1095,        29899,        517,        16248,        12084,        1728,        24738,        292,        1048,        278,        14407,        22035,        12425,        29889,        16478,        29892,        372,        16688,        1856,        20849,        13465,        411,        25492,        322,        12634,        9481,        29949,        567,        13138,        9126    ],    "total_duration": 17465699693,    "load_duration": 3223211932,    "prompt_eval_count": 15,    "prompt_eval_duration": 775537000,    "eval_count": 150,    "eval_duration": 13421104000}JSON だと見づらいので、生成された回答のみ抽出しておきます。Azure Application Services (AppService) provides a platform-as-a-service for building, deploying and managing web apps. まとめAzure App Service の Sidecar に Phi-3 をデプロイして Web アプリケーションから呼び出してみました。github.comSidecar パターンで LLM や SLM をセルフホストする場合、リアルタイム応答、機密データ、コスト削減、ファインチューニングといったメリットを挙げることができます。今回のソースコードは、こちらのリポジトリで公開しています。github.com

Azure App Service の Sidecar に Phi-3 をデプロイして Web アプリケーションの機能を拡張する

Azure App Service on Linux に Sidecar パターンでコンテナーをデプロイできる機能が追加されました。Docker Container のみ（Windows Container は未対応）Sidecar を構成できるのは App Service の新規作成のみ（既存リソースには未対応）Sidecar を構成できるリージョンは限定されている（West Europe など）techcommunity.microsoft.com今回は最もシンプルな構成で試したかったので、ASP.NET Core の Web API をコンテナー化して Sidecar にデプロイしてみました。Sidecar パターンとはマイクロサービスで構成されるシステムを構築する場合、分散されたサービス群を管理するためのアーキテクチャや運用の複雑さが増す傾向にあります。learn.microsoft.comログやトレースなど可観測性に関する機能リモートサービスを呼び出す際のリトライやサーキットブレーカーなど回復性に関する機能Sidecar アプリケーションを作成するASP.NET Core でテキストのみを返すシンプルな Web API を作成します。[Route("api/[controller]")][ApiController]public class DemoController : ControllerBase{    [HttpGet]    public ActionResult<string> Get()    {        var response = "Hello Sidecar!";        return Ok(response);    }}App Service 内部において、Sidecar を呼び出す側と呼び出される側でポート番号が重複しないように、Program.cs でポート番号を 2000 に変更しておきます。var builder = WebApplication.CreateBuilder(args);builder.WebHost.ConfigureKestrel(options =>{    // Sidecar としてデプロイしたいので、ポート番号を 2000 に変更    options.Listen(IPAddress.Parse("0.0.0.0"), 2000);});// HTTP でホストしたいので HTTPS リダイレクトは無効化//app.UseHttpsRedirection();Dockerfile においても、ポート番号 2000 を開けておきます。FROM mcr.microsoft.com/dotnet/sdk:8.0 AS buildWORKDIR /codeCOPY . .RUN dotnet restoreRUN dotnet publish --output /output --configuration ReleaseFROM mcr.microsoft.com/dotnet/aspnet:8.0EXPOSE 2000COPY --from=build /output /appWORKDIR /appENTRYPOINT ["dotnet", "sidecar-dotnetcore.dll"]アプリケーションが完成したので、Docker Hub にプッシュしておきます。$ docker build -t thara0402/sidecar-dotnetcore:0.3.0 ./$ docker push thara0402/sidecar-dotnetcore:0.3.0    Sidecar を呼び出す側のアプリケーションを作成するASP.NET Core で Sidecar を呼び出すシンプルな Web API を作成します。[Route("api/[controller]")][ApiController]public class DemoController : ControllerBase{    private readonly IHttpClientFactory _httpClientFactory;    private readonly IConfiguration _configuration;    public DemoController(IHttpClientFactory httpClientFactory, IConfiguration configuration)    {        _httpClientFactory = httpClientFactory;        _configuration = configuration;    }    [HttpGet]    public async Task<ActionResult<string>> Get()    {        var sidecarUrl = _configuration["SIDECAR_URL"];        var httpClient = _httpClientFactory.CreateClient();        var response = await httpClient.GetStringAsync(sidecarUrl);        return Ok(response);    }}Sidecar の URL については、appsettings.json に切り出しておきました。{  "Logging": {    "LogLevel": {      "Default": "Information",      "Microsoft.AspNetCore": "Warning"    }  },  "AllowedHosts": "*",  "SIDECAR_URL": "http://localhost:2000/api/Demo"}上記以外のコードや Dockerfile はテンプレート通りなので説明は割愛します。$ docker build -t thara0402/sidecar-primary-app:0.5.0 ./$ docker push thara0402/sidecar-primary-app:0.5.0    Sidecar を構成した App Service をデプロイするApp Service on Linux に Sidecar パターンを構成していきます。リージョンは West Europe を指定しました。App Service を作成後、 Deployment Center から Sidecar のコンテナーを追加します。動作確認Swagger UI から Sidecar の Web API を呼び出せることを確認できました。まとめAzure App Service on Linux の Sidecar にカスタムコンテナーをデプロイしてみました。今回のソースコードは、こちらのリポジトリで公開しています。github.com

Azure App Service の Sidecar にカスタムコンテナーをデプロイしてみた

.NET 6 が 2024/11/12 にサポート終了するため、.NET 8 に移行したら Azure Web App for Containers のサイトに接続できなる現象に遭遇したので、顛末をまとめておきます。現象ASP.NET Core で作成したアプリケーションを Azure Web App for Containers 上にデプロイしていました。csproj と Dockerfile のバージョンを 8.0 に更新しました。<Project Sdk="Microsoft.NET.Sdk.Web">  <PropertyGroup>    <TargetFramework>net8.0</TargetFramework>    <Nullable>enable</Nullable>    <ImplicitUsings>enable</ImplicitUsings>    <RootNamespace>WebApp</RootNamespace>  </PropertyGroup>  <ItemGroup>    <PackageReference Include="Swashbuckle.AspNetCore" Version="6.4.0" />  </ItemGroup></Project>FROM mcr.microsoft.com/dotnet/sdk:8.0 AS buildWORKDIR /codeCOPY . .RUN dotnet restoreRUN dotnet publish --output /output --configuration ReleaseFROM mcr.microsoft.com/dotnet/aspnet:8.0COPY --from=build /output /appWORKDIR /appENTRYPOINT ["dotnet", "WebApp.dll"]更新した Docker Image をデプロイすると、Azure Web App for Containers からレスポンスが返却されない状態になってサイトが表示できなくなりました。原因改めて ASP.NET Core 8 の移行ドキュメントを読んでみると、Docker コンテナの既定のポートが 80 から 8080 に更新されていることが分かりました。learn.microsoft.comポート番号の変更理由は、non-root ユーザーに切り替えるときに使いやすくするためとのことです。詳細は、こちらのドキュメントを参照してください。learn.microsoft.com対応ローカル環境では、docker run コマンドで実行する際のポート番号のマッピングを変更します。# ASP,NET Core 7 まで$ docker run --rm -it -p 8000:80 --name webapp web-app:0.1.0# ASP,NET Core 8$ docker run --rm -it -p 8000:8080 --name webapp web-app:0.1.0Azure Web App for Containers では、環境変数の App settings で WEBSITES_PORT に 8080 を設定します。$ az webapp config appsettings set --resource-group <group-name> --name <app-name> --settings WEBSITES_PORT=8080まとめASP.NET Core 8 に移行したら Azure Web App for Containers のサイトに接続できなくなり、思いのほか解決に時間がかかりました。今回の件に限らないですが、公式ドキュメントをよく読んでから移行しましょう。

ASP.NET Core 8 に移行したら Azure Web App for Containers のサイトに接続できなくなった件

Build 2024 のいくつかのセッションで取り上げていた Prompty が良さそうです。先日の Azure Travelers 勉強会 の LT でも紹介しましたが、ブログにもまとめておきます。gooner.hateblo.jpPrompty とはPrompty は、プロンプトを管理するためのフォーマットです。---name: ExamplePromptdescription: A prompt that uses context to ground an incoming questionauthors:  - Seth Juarezmodel:  api: chat  configuration:    type: azure_openai    azure_endpoint: https://<your-endpoint>.openai.azure.com    azure_deployment: <your-deployment>  parameters:    max_tokens: 3000sample:  firstName: Seth  context: >    The Alpine Explorer Tent boasts a detachable divider for privacy,     numerous mesh windows and adjustable vents for ventilation, and     a waterproof design. It even has a built-in gear loft for storing     your outdoor essentials. In short, it's a blend of privacy, comfort,     and convenience, making it your second home in the heart of nature!  question: What can you tell me about your tents?---system:You are an AI assistant who helps people find information. As the assistant, you answer questions briefly, succinctly, and in a personable manner using markdown and even add some personal flair with appropriate emojis.# CustomerYou are helping {{firstName}} to find answers to their questions.Use their name to address them in your responses.# ContextUse the following context to provide a more personalized response to {{firstName}}:{{context}}user:{{question}}{{ }} で囲まれた firstName、context、question は変数になっており、アプリケーションへ組み込む際には値を引き渡すことができます。Azure AI Studio などのプレイグラウンドでプロンプトを試行錯誤するなら、VS Code 拡張機能をインストールしてローカルで Prompty を使ったほうが便利です。marketplace.visualstudio.comVS Code から .prompty 拡張子のファイルを実行できるようになります。接続先の LLM 資格情報は、settingsjson に定義します。Microsoft Entra ID で認証することもできます。{    "prompty.modelConfigurations": [        {            "name": "default",            "type": "azure_openai",            "api_version": "2023-12-01-preview",            "azure_endpoint": "https://xxx.openai.azure.com/",            "azure_deployment": "gpt-35-turbo-16k",            "api_key": "xxx",        },        {            "name": "gpt-3.5-turbo",            "type": "openai",            "api_key": "",            "organization": ""        }    ],}    アプリケーションへの組み込みPrompty は、Prompt flow、Langchain、Semantic Kernel とも統合されているので、ソースコードに文字列でプロンプトをハードコーディングする必要がなくなります。assistant.prompty というファイルを作成し、プロンプトを定義しておきます。---name: AssistantPromptdescription: AI assistant のサンプルプロンプトです。model:  api: chat  configuration:    type: azure_openai    azure_deployment: gpt-4o  parameters:    max_tokens: 3000    temperature: 0.7sample:  question: Microsoft Azure とは?---system:You are an AI assistant that helps people find information.user:{{question}}Semantic Kernel の場合、下記のようなコードで assistant.prompty からプロンプトを読み込んで実行できます。#pragma warning disable SKEXP0040using Microsoft.Extensions.Configuration;using Microsoft.SemanticKernel;using prompty_console_app;var settings = new ConfigurationBuilder()    .AddUserSecrets<Program>()    .Build()    .GetSection(nameof(AzureOpenAISettings)).Get<AzureOpenAISettings>() ?? throw new NullReferenceException();var builder = Kernel.CreateBuilder();builder.AddAzureOpenAIChatCompletion(settings.DeploymentName, settings.Endpoint, settings.ApiKey);var kernel = builder.Build();var prompty = kernel.CreateFunctionFromPromptyFile("assistant.prompty");while (true){    Console.Write("You: ");    var text = Console.ReadLine();    if (string.IsNullOrWhiteSpace(text))    {        break;    }    Console.WriteLine("Assistant:");    await foreach (var result in kernel.InvokeStreamingAsync<string>(prompty, new() { ["question"] = text }))    {        Console.Write(result);    }    Console.WriteLine("");}このコードを実行すると、AOAI を使った簡単なチャットができます。また、評価用プロンプトを Prompty にしておいて、使いまわしても良さそうです。learn.microsoft.comまとめPrompty を使うと、生成 AI アプリケーション開発のプロンプト管理が捗りそうです。今回のサンプルアプリは、こちらで公開しています。github.com

Prompty を使って生成 AI アプリケーション開発のプロンプトを管理する

先週末、第3回 Azure Travelers 勉強会 山形の旅に参加してきました。jat.connpass.com勉強会勉強会会場は、Power Platform で有名な株式会社 ASAHI Accounting Robot 研究所（ロボ研）さんでした。お洒落で素敵な会場でした。asahi-robo.jpAzure Travelers のコミュニティは初参加でしたが、とても楽しいイベントでした。スタッフ含め30人くらいの規模感がいい司会の酒見さんの進行が上手いこともあるが、セッションやパネルディスカッションで会場を巻き込みやすい午前中のみ配信あり、午後からは配信なしのバランスがいいコミュニティの趣旨や雰囲気をオンラインで伝えることができ、次の開催地域とのつながりも作れる協賛してくれたロボ研さんの認知をオンラインで広めることができるMS 中山さんのパネルディスカッションのファシリテーションが上手いこともあり、DX に取り組む Power Platform 界隈の現場の声を引き出せていた午後は現地のみセッションとなるので、ここだけの話がしやすい山形ご当地セッションとクイズは、Azure Travelers ならではの内容で良かったMS 土田さんの山形への愛を感じたYG-900 の認定を取得した、Azure Travelers Certified のステッカーが格好いい次の開催地をサイコロで決めるルールは、水曜どうでしょう感があって面白い次々回は沖縄に決定（次回10月中旬は福岡）午前中の配信はアーカイブがあります。www.youtube.com飛び入りで LT に参加して Prompty の紹介をしました。ブラウザのプレイグラウンドでプロンプトを試行錯誤するなら、VS Code 拡張をインストールして Prompty を使ったほうが便利です。Prompt flow、Langchain、Semantic Kernel とも統合されているので、ソースコードに文字列でハードコーディングするよりも保守しやすいです。marketplace.visualstudio.com懇親会は、炭火焼肉くろげで美味しい山形牛を食べました。3次会までありましたが、宿泊で来ている方が多いので、終電を気にせず飲めるのも良かったです。さくらんぼ狩りツアー翌日は、寒河江にある三泉観光さくらんぼ園へさくらんぼ狩りに行きました。初めての経験でしたが、甘くて美味しいさくらんぼをたくさん食べられて大満足でした。山形観光勉強会以外にも、いろいろと観光して山形を満喫しました。ご飯の写真は撮り損ねたのですが、ラーメンの聖地ということもあってよく食べた気がします。山形城「北の関ヶ原合戦」と呼ばれた慶長出羽合戦において、最上義光が上杉の直江兼続の率いる大軍を撃退したことが有名です。立石寺山寺とも呼ばれ、松尾芭蕉が奥の細道で「閑さや 岩にしみ入る 蝉の声」という句を詠んだ場所として知られています。銀山温泉銀山温泉は、大正時代のような木造の温泉旅館が立ち並ぶ温泉街です。昼間もいいですが、ガス灯に火がともる夜のほうが映えます。温泉もいいお湯でした。蔵王の御釜蔵王にある釜状の火山湖の御釜に行きました。エメラルドグリーンの湖水と火口壁の対比が奇麗でした。蔵王温泉の大露天風呂にも行きました。お湯は強酸性泉なので硫黄の匂いが強いですが、渓流露天風呂のロケーションも相まっていい温泉でした。まとめ参加者と運営メンバーそしてロボ研の皆様、ありがとうございました。とても楽しかったので、次回福岡の旅にも参加したいです。

第3回 Azure Travelers 勉強会 山形の旅に参加してきました

昨年11月の Ignite 2023 に続き、シアトルで Microsoft Build 2024 に参加してきました。build.microsoft.comBuild 2024 でアナウンスされた内容は、このあたりの記事で説明されています。Book of NewsOfficial Microsoft Blogブチザッキ（Day1、Day2）この記事では、現地参加の雰囲気や個人的に感じたことをお伝えしていきます。Registration会場は、シアトルにある Seattle Convention Center Summit です。Keynote：Day1いよいよ初日のキーノート、現地参加するなら最前列を確保したいと思い、開始2時間前の7時から並びました。今年は MVP 席が用意されていたので、結果的には並ぶ必要はなかったかもしれません。Imagine Cup の表彰が終了後、キーノートが始まりました。今回の Build で最も印象に残ったのは、生成 AI のプラットフォームがクラウドからクライアントのデバイス上にも広がってきたことです。生成 AI 活用は大きく構えて LLM を使うまでもなく、Phi-3 をはじめとする SLM で事足りるユースケースもあると思います。リアルタイム応答、オフライン、機密データ、コスト削減、ファインチューニングといったキーワードが挙げられていましたが、LLM との使い分けなのか組み合わせなのか、クライアント上でモデルに推論させるユースケースも考えていきたいです。あとは、GPT-4o の GA ですね。予想された発表ではありましたが、GPT4 と比較したレスポンス速度向上とコスト削減は、PTU に代わる選択肢として期待できます。さらにマルチモーダルな入力を活用したパラダイムシフトも加速していきそうです。（今のところは Text とVision のみ、Voice は未実装です）昨年の Build で発表された Copilot stack も、だいぶ解像度が上がってきました。ちなみに、サプライズで OpenAI の Altman が登場しました。Keynote：Day2Day2 のキーノートは、Scott Guthrie。昨日と同じく前から5列目あたりの席を確保。Copilot stack に沿った開発者向けの話が中心でした。App Service や Functions の話題がなかったのは残念。Azure のコンテキストで回答してくれる GitHub Copilot for Azure は良さそう。さっそく利用申請しました。Azure OpenAI Batch Service のアナウンス、ジョブ用途で50％値下げは嬉しい。適用できるユースケースは多いはず。会場の様子Convention Center には1～5階と地下1階の各フロアに部屋があって、自由に聞きたいセッションを選べます。ブレイクアウトセッションの様子。Scott Hanselman のライブデモは流石です。キーノートでの発表以外で熱いと感じたのは、APIM のアップデート。AOAI 向けの Gateway 機能として、トークンの制限ポリシーやサーキットブレーカーによる複数 AOAI エンドポイントへの負荷分散など。あとは、Azure Functions の Flex Consumption が Public Preview になりました。このプランが GA すれば、基本これを使っておけば良いでしょう。ビルド飯は、こんな感じでした。初日のチキンカレーは美味しかったですが、2日目以降は例年並みでした。（砂糖の塊のようなビスケットはつらい）昨年もあったピーナッツとリンゴのおやつは、安定の美味しさでした。今回の戦利品。ノベルティとTシャツ、Tシャツのデザインは3種類から選べました。Microsoft Build and AMD Celebration最終日のパーティ会場は、NFL のシアトル・シーホークスの本拠地である Lumen Field でした。ピッチまで降りることができる貴重な経験でした。Microsoft Campus今回一緒に行った同僚を案内するため、Redmond にある Microsoft 本社にも行きました。Visitor Center だけでなく、East Campus にある新しい建物やツリーハウスも散策しました。Day0 に行ったので、カンパニーストアに Copilot+PC の展示があるかと期待しましたが、まだありませんでした。（Build 会場の Hub に展示がありました）4月に開通したばかりの Link light rail に乗って帰りました。東西 Campus を結ぶ道ができており、Redmond Technology Station にも行くことができます。現在は Bellevue までですが、いずれ Seattle まで延長する計画があります。ちなみに、Bellevue で食べたくら寿司は普通に美味しかったです。まとめMicrosoft Build 2024 にシアトルで現地参加してきました。gooner.hateblo.jp

Toshiyuki Hara

Azure Functions の Azure OpenAI Extension で 404 エラーが発生する場合の確認事項

Azure Functions のビルドが NuGet エラーで失敗する件

2024 年振り返り

Azure App Service に Streamlit で作成したチャットアプリをデプロイする

Azure Functions におけるシークレットの管理方法を改めて考えてみた【Isolated Worker Process 版】

Azure Functions を In-Process モデルから Isolated Worker Process モデルにマイグレーションする

Azure App Service を .NET 9 にマイグレーションする

Microsoft Ignite 2024 に現地参加してきました

第4回 Azure Travelers 勉強会福岡の旅に参加してきました

Japan Azure User Group 14周年イベントで Azure App Service の Sidecar の話をしてきました

Azure Functions の Azure OpenAI Extension を使ってチャットアシスタントにカスタムスキルを追加する

Azure Functions の Azure OpenAI Extension を使ってチャットアシスタントを構築する

Azure Functions の Azure OpenAI Extension を使ってベクトル検索を構築する

Azure Functions の Azure OpenAI Extension を使ってコンテンツを要約する

Microsoft MVP を再受賞しました

GitHub Actions から Azure Static Web Apps へのデプロイが OpenSSL の互換性エラーで失敗していた件

Azure App Service の Sidecar に Phi-3 をデプロイして Web アプリケーションの機能を拡張する

Azure App Service の Sidecar にカスタムコンテナーをデプロイしてみた

ASP.NET Core 8 に移行したら Azure Web App for Containers のサイトに接続できなくなった件

Prompty を使って生成 AI アプリケーション開発のプロンプトを管理する

第3回 Azure Travelers 勉強会山形の旅に参加してきました

Microsoft Build 2024 に現地参加してきました

Azure Functions の Azure OpenAI Extension で 404 エラーが発生する場合の確認事項

Azure Functions のビルドが NuGet エラーで失敗する件

2024 年振り返り

Azure App Service に Streamlit で作成したチャットアプリをデプロイする

Azure Functions におけるシークレットの管理方法を改めて考えてみた【Isolated Worker Process 版】

Azure Functions を In-Process モデルから Isolated Worker Process モデルにマイグレーションする

Azure App Service を .NET 9 にマイグレーションする

Microsoft Ignite 2024 に現地参加してきました

第4回 Azure Travelers 勉強会 福岡の旅に参加してきました

Japan Azure User Group 14周年イベントで Azure App Service の Sidecar の話をしてきました

Azure Functions の Azure OpenAI Extension を使ってチャットアシスタントにカスタムスキルを追加する

Azure Functions の Azure OpenAI Extension を使ってチャットアシスタントを構築する

Azure Functions の Azure OpenAI Extension を使ってベクトル検索を構築する

Azure Functions の Azure OpenAI Extension を使ってコンテンツを要約する

Microsoft MVP を再受賞しました

GitHub Actions から Azure Static Web Apps へのデプロイが OpenSSL の互換性エラーで失敗していた件

Azure App Service の Sidecar に Phi-3 をデプロイして Web アプリケーションの機能を拡張する

Azure App Service の Sidecar にカスタムコンテナーをデプロイしてみた

ASP.NET Core 8 に移行したら Azure Web App for Containers のサイトに接続できなくなった件

Prompty を使って生成 AI アプリケーション開発のプロンプトを管理する

第3回 Azure Travelers 勉強会 山形の旅に参加してきました

Microsoft Build 2024 に現地参加してきました

第4回 Azure Travelers 勉強会福岡の旅に参加してきました

第3回 Azure Travelers 勉強会山形の旅に参加してきました