朝日ネットで技術部門の執行役員をしている草場です。 今回は朝日ネットが新しいことにも積極的に取り組む会社ですというアピールも込めて、 社内用ChatGPTクローン公開までの話と今後の展望を書きたいと思います。
導入までの流れ
朝日ネットでは以下の3点を目的に社内用ChatGPTクローンを構築し、5月から社内での利用を開始しています。
- 生産性の向上
- ITリテラシーの向上
- セキュリティ対策
4月上旬、社会的にChatGPTが本格的に盛り上がりを見せる中、機密情報流出などの問題が取り沙汰され、利用禁止にする企業も出始めました。朝日ネットでも経営メンバーで議論し、ただ禁止するのではなく、安全に利用できる環境を提供することが適切との結論に至りました。
その背景には、業務の効率化や生産性の向上が期待でき、今後はジェネレーティブAIを活用したサービスやソリューションが一般的になることが予想されること。それらを活かせる能力を身につけていくことが重要になるだろうという考えがあります。
この方針に基づき、セキュリティを担保しつつ実現する手段の検討に入りました。ChatGPT PlusやChatGPT相当のサービス、Azure OpenAI ServiceとOSSを組み合わた自社構築など、いくつかの手段を検討しましたが、急速に発展している分野でもあることから、素早く始めることを重視し、最小構成で自社構築することに決定しました。
Azureの契約手続きやUIのOSS選定、動作検証、利用ガイドラインの作成などを経て、5月1日にリリースしました。契約手続きなどに少し時間はかかりましたが、約3週間で導入が完了しました。
システム構成
Azure OpenAI ServiceとGCPで構築しました。
CloudRunの前面にはCloud Load Balancingを配置し、Google Cloud Certificate Managerによるマネージド証明書の利用とCloud Armorによるアクセス制限を実施しています。
Azure OpenAI Service、chatbot-ui、CloudRunなどの構築手順については、多数のブログ記事が公開されていますのでここでは割愛します。
CloudRunを選んだ理由は、 運用ツールなどをGCP上で実行しており馴染みがあったことと、 CloudRunの一発デプロイが非常に便利だからです。
※gcloud run deployコマンドの--sourceオプションを使用することで、手軽にデプロイすることができます。
ガイドライン
利用ルールとして社内に公開しています。 詳細は割愛しますが、あまり長くならないように注意して作成しました。
- 公開目的
上述の通りです。 - 禁止事項
セキュアな環境ではありますが、利用者の操作ミスは有り得るため、明確に個人情報、認証情報（ID/PW、アクセスキーなど）の入力は禁止しています。 - 利用範囲
業務全般および業務上必要なスキルアップへの活用を認めています。 - 注意と義務
真偽の判別、確認は利用者の責任であることを明記しています。
また、Azure OpenAI ServiceのAbuse対応についても記載しています。 - 制限事項
本家ChatGPTとchatbot-uiの機能差による制限について説明しています。 - 不適切な利用例
禁止事項を具体的に記載しています。 - 利用方法・アクセス方法
- アンケートフォーム
- 変更履歴
- 問い合わせ先
- サンプルプロンプト
利用者や利用シーンを広げていくにはサンプルプロンプトが非常に重要です。
簡潔に纏めていますが、作者の私が力尽きたためここは更にテコ入れが必要だと感じています。
今後について
社内公開から1か月が経ち、アクセス数は横ばいといった状況が続いていますが、聞いて回った感じだとエンジニアの方が実務的に活用し易いのか、利用している人が多いように感じます。
悩みはどこも同じで、慣れてないと回答に虚偽情報が混ざる頻度が高くなったり、修正してほしくない部分までプログラムが修正されてしまうといった事が起こります。
利用拡大に向けてサンプルプロンプトやユースケースの追加を進めていく必要があるだろうと思っていますが、より使い勝手の良いサービスが世の中に出てくる事も期待しています。特に社内データを回答できるようにしたい思いはあります。
また、ジェネレーティブAI関連では以下のようなことを行っています。
社内用ChatGPTクローンのGPT-4対応
現在GPT-3.5（gpt-35-turbo）で公開していますが、GPT-4についても対応予定です。（waiting list登録済み）Google Bardの利用開放
5/11にEarly Access Appsを有効化しました。
社内用ChatGPTクローンと使い分けてほしいと思っての開放ですが、利用規約に不明点があるため機密情報や社外秘の情報の入力は禁止しています。GitHub Copilot
今月から一部のエンジニアにGitHub Copilotを試してもらっています。
こちらも将来的には積極的に開放していく予定です。
最後に
朝日ネットでは新卒採用・キャリア採用を行っております。
FY24新卒採用も引き続き実施していますので、学生の皆さんのご応募お待ちしています。
