ITトレンドがおすすめする製品・サービス
- ■AIによる開発支援の内容別
- 生成AIによるETLコードの作成支援:AWSGlue
- AIによるデータ項目のマッピング支援:JOINT AI Flow byGMO
- AIによるデータ管理の効率化:Informatica Intelligent Data Management Cloud (IDMC)
- ■AI活用に向けたデータ連携別
- 生成AIと業務システムの連携:JOINT AI Flow byGMO
- 生成AIによる住所データの構造化:ISO住所構造化サービス Addresstune™
- 生成AI活用に向けたデータの連携・準備:HULFT Square
ETLツールにおけるAIの活用方法:使われる主な場面
ETLとは、データを抽出(Extract)し、変換(Transform)して、分析用のデータベースなどに書き込む(Load)処理のことです。ETLツールにAI機能が組み込まれる場面は、主に処理の作成、項目の対応付け、データ品質の監視の3つです。
自然言語による変換処理やSQLの作成支援
AIの活用場面の1つは、変換処理の作成支援です。「顧客ごとの月別売上を集計したい」のように文章で指示すると、AIが変換処理やSQL(データベースを操作する言語)の案を示す機能を備えた製品があります。
SQLに不慣れな担当者でも処理の下書きを作れるため、開発の初動を早められる可能性があります。ただし、示された案が意図どおりの結果を返すかは別途確認が必要です。AIの出力はあくまで下書きと位置づけましょう。
データ項目のマッピング候補の提示
マッピングとは、連携元のデータ項目と連携先の項目を対応付ける作業です。「顧客コード」と「CUST_ID」のように名前が異なる項目を1つずつ対応付けるには手間がかかります。
AI機能を備えたETLツールの中には、項目名やデータの中身から対応候補を提示するものがあります。接続先のシステムが多く、項目数が多い企業ほど作業の負担を減らせる可能性があります。候補の採否は担当者が判断し、業務上の意味が同じ項目かを確認しましょう。
データの異常や品質低下の検知
AIは、データの異常を見つける用途にも使われます。例えば、普段は数千件届く取引データが数十件しかない、特定の項目で空欄が急に増えたといった変化を、過去の傾向と比べて検知する仕組みです。
決められたルールでは拾いにくい変化に気づける点が利点です。一方で、季節要因による正常な変動を異常と判定するケースも考えられます。検知した内容を誰が確認し、どう対応するかを運用ルールとして決めておくことが大切です。
AI活用の前提となるETLツールのデータ準備
ETLツールは、AIに機能を助けてもらうだけでなく、AIで使うデータを用意する役割も担います。生成AIや機械学習の精度は入力するデータの品質に左右されるため、データ準備の工程としてETLが活用されています。
生成AIに参照させる社内データの整形
生成AIに社内の規程や製品資料を参照させて回答させる仕組みを、RAG(検索拡張生成)と呼びます。RAGでは、資料を検索しやすい単位に分割し、ベクトルデータベース(文章の意味を数値化して保存するデータベース)に登録する前処理が必要です。
ETLツールを使うと、資料の取り込みから分割、登録までを定期的に自動実行できます。資料が更新されたときに古い情報が残らないよう、差分の反映方法もあわせて設計しておきましょう。
機械学習用データの前処理
需要予測や離反予測などの機械学習モデルを作る際にも、ETLツールは前処理の工程で使われます。複数のシステムからデータを集め、欠損値の補完や表記の統一、集計単位の調整を行う作業です。
前処理をETLツールで定型化しておくと、モデルを作り直す際も同じ手順でデータを用意できます。手作業で加工した場合と比べて、どのような加工をしたのかを後から確認しやすくなる点も利点です。
PDFや文書など非構造化データの取り込み
非構造化データとは、表の形に整理されていないPDFや文書、画像などのデータです。生成AIを活用する場面では、こうしたデータも取り込みの対象に含めたいケースがあります。
ETLツールの中には、PDFや文書ファイルからテキストを抽出する機能や、外部のAIサービスと連携して内容を読み取る機能を備えたものがあります。対応するファイル形式や読み取り精度は製品や文書の状態によって異なるため、自社の資料で試して確かめましょう。
AI搭載のETLツールを比較するときの注意点
AI機能はETLの開発や運用の負担を減らす可能性がある一方、使い方を誤るとデータの誤りや情報管理上の問題につながるおそれがあります。導入前に把握しておきたい注意点を3つ紹介します。
AIが示した処理の検証
AIが作成した変換処理やSQLは、文法上は正しくても、集計条件や結合の条件が業務の意図と異なる場合があります。例えば、返品データを除外する条件が抜けていると、売上が実際より大きく集計されます。
本番で使う前に、検証用のデータで結果を確かめる手順を設けましょう。既存の集計結果や帳票の数値と照合する方法が有効です。どの処理をAIの支援で作成したかを記録しておくと、後の点検にも役立ちます。
外部AIサービスへのデータ送信
AI機能が外部の生成AIサービスを利用している場合、処理対象のデータや項目名がそのサービスへ送られる可能性があります。個人情報や取引先の情報が含まれる場合は、送信される範囲を確認する必要があります。
個人情報保護委員会は2023年6月に、生成AIサービスの利用に関する注意喚起を公表しています。入力したデータがAIの学習に使われないか、送信先や保存期間はどうなるかを、提供会社の資料や利用規約で確かめましょう。
AI機能の利用条件と費用
AI機能は、上位のプランでのみ使える場合や、利用量に応じて追加費用がかかる場合があります。料金の数え方も、利用回数や処理するデータ量など製品によって異なります。
試用時に想定より利用量が増えると、本番運用で費用が膨らむおそれがあります。自社で想定する利用頻度を伝えたうえで見積もりを取り、AI機能を使わない場合の運用方法も残しておくと安心です。
ITトレンドでは、最新の製品・サービスを多数比較・掲載しています。まず資料請求して、さまざまな製品の機能や特徴を比較してみてください。忙しい業務時間内でも、各社に問い合わせる手間なく、たった1回の入力(約60秒)でETLツールの一括資料請求が可能です。浮いた時間で、じっくりと製品の比較検討を進めましょう。
AI搭載ETLツールにおけるAI運用のコツ|ETL開発に取り入れる
AI機能をいきなりすべてのETL処理に使うと、検証が追いつかなくなるおそれがあります。影響の小さい処理から試し、確認の手順を整えながら範囲を広げる進め方が現実的です。
影響の小さい定型処理から試す
最初は、社内向けの集計レポート用のデータ作成など、誤りがあっても影響が限られる処理で試しましょう。経理や請求に関わる処理は、AIの出力の傾向をつかんでから対象にするのが無難です。
試行期間中は、AIを使った場合と使わない場合で、作成にかかった時間や修正の回数を記録しておくと効果を判断できます。記録をもとに、AI機能を使う処理の範囲を決めていきましょう。
レビューと承認の手順を決める
AIの支援で作成した処理を本番に反映する前に、別の担当者が確認するレビューの手順を設けることが大切です。作成者だけが確認する形では、思い込みによる誤りに気づきにくくなるためです。
レビューでは、抽出条件や結合条件、エラー時の動きを確認項目として一覧にしておくと、確認の質をそろえられます。承認の記録を残しておけば、障害が起きた際の原因調査にも使えます。
ETLツールのAI機能はどこまで任せられるか
AI機能はETLの作業を支援するものであり、データの正しさに責任を持つのは利用する企業です。AIに任せやすい作業と、人が判断すべき作業を分けて考えることで、AI機能を無理なく活用できます。
AIに任せやすい作業
AIに任せやすいのは、結果をすぐに確かめられる作業です。処理の下書き作成やマッピング候補の提示、項目の説明文の作成などは、担当者が内容を見て採否を判断できます。
エラーメッセージの意味の説明や、原因の候補を挙げてもらう使い方も考えられます。いずれも最終的な判断は担当者が行う前提で、作業の初動を早める道具として位置づけると活用しやすくなります。
人が判断すべき作業
一方、どのデータを正とするか、どの条件で集計するかといった業務ルールの決定は、人が判断すべき作業です。売上の計上基準や顧客の名寄せの基準は、企業ごとの事情によって変わるためです。
AIが検知した異常への対応方針や、外部サービスへ送ってよいデータの範囲の決定も同様です。判断の基準を文書にまとめ、複数の担当者で共有しておくと、担当者が替わっても同じ基準で運用を続けられます。
AI機能搭載のETLツール一覧
この記事で紹介するETLツールのうち、AI機能を確認できる製品を一覧にまとめました。AIが担う範囲や機能の違いを比較してください。
| 製品名 | 特徴 |
|---|---|
| JOINT AI Flow byGMO | 生成AIと業務システムをつなぐ。AIマッピングで連携設計を半自動化 |
| ISO住所構造化サービス Addresstune™ | 生成AIが不規則な住所データを自動構造化するSaaS型サービス |
| HULFT Square | 生成AIやデータ活用に向けたデータ連携を支える日本発のiPaaS |
| AWSGlue | 生成AIでETLコードを自動生成。サーバーレスで100超のデータソースに接続 |
| Informatica Intelligent Data Management Cloud (IDMC) | データ統合から品質管理・ガバナンスまで一元管理。AI機能を搭載 |
AI機能搭載のETLツールの紹介
ここでは、AI機能を備えたETLツールを紹介します。AIが担う範囲と、対応する業務や機能を確認し、自社の課題にあう製品を選びましょう。
HULFT Square
- ファイル転送・データ連携機能をフルマネージドサービスで提供
- 接続先の特性に合わせたコネクター/API/ファイルでの柔軟な連携
- 国・地域/業種/業務システム間をまたぎデータ連携することが可能
株式会社セゾンテクノロジーが提供する「HULFT Square」は、生成AIやデータ活用に向けたデータの準備を支える日本発のiPaaSです。ファイル転送の「HULFT」とデータ連携の「DataSpider」の操作性を継承したマネージドサービスで、マルチクラウドやオンプレミスに分散したデータの連携を一元化できます。ドラッグ&ドロップのノーコード開発に対応し、サーバーの管理や運用は不要です。
AWSGlue (アマゾンウェブサービスジャパン合同会社)
- 生成AIでETLコード自動生成・モダナイズ
- ギガ・ペタバイトのデータ処理ジョブを自動スケール
- サーバーレスでインフラ管理不要、データワークフロー構築に注力
Informatica Intelligent Data Management Cloud (IDMC) (インフォマティカ・ジャパン株式会社)
- データ統合からガバナンスまで一つの基盤で提供
- AIによるデータ管理機能を搭載
- クラウド環境で柔軟なデータ活用を支援
まとめ
ETLツールとAIの関係は、AIが処理の作成やマッピング、異常検知を支援する使い方と、ETLツールが生成AIや機械学習に渡すデータを整える使い方に分けられます。AI機能を使う場合は、出力の検証、外部AIサービスへのデータ送信、利用条件と費用を確認しましょう。影響の小さい処理から試し、業務ルールの判断は人が担う体制が大切です。自社にあうETLツールを比べたい方は、資料請求を活用してください。

