Tech Blog about 2 months ago Follow Mana Nakamura BigQueryのSQLとPaLM2でRAGを作ってみた みなさんこんにちは、システム部の岡崎です。今回はBigQueryのSQLだけでRAGを作ってみようと思います。目次1. RAG(Retrieval-Augmented Generation)とは... Read more
株式会社SiNCE 2 months ago Follow SiNCE 編集部 and 5 others PIVOT関数を使わずに縦列変換を行う方法 データの縦列変換を行いたい方に向けてサンプルを用いて方法を説明しています。続きはこちらから。 Read more
株式会社SiNCE 2 months ago Follow SiNCE 編集部 and 5 others Google Colab Enterpriseについて徹底調査 | BigQueryとの統合、他のプラン・Vert... 新しくEnterprise版がリリースされたGooogle Colabをプランごとの違いを詳しく調査・比較しました。ここではBigQueryとの統合、他のプラン・VertexAI Workben... Read more
株式会社SiNCE 3 months ago Follow SiNCE 編集部 and 5 others PythonからBigQueyへ列名とデータ型指定なしでアップロードする方法 PythonからpandasデータをBigQueryにアップする際の列名とデータ型の指定が煩わしい点への解決策を出しました!コード例を交えながら、効率的に解決する方法を紹介します。BigQuer... Read more
株式会社SiNCE 3 months ago Follow SiNCE 編集部 and 5 others Bigqueryのスケジューリング設定で気を付けること3選 本記事ではBigqueryで実際にスケジューリング設定を行う際に出てきた壁3つとその解決方法をお伝えします。続きはこちらから。 Read more
株式会社SiNCE 3 months ago Follow SiNCE 編集部 and 5 others dbt core環境構築 for BigQuery dbt (data build tool) はデータサイエンティストやデータエンジニアがSQLを用いてデータ変換処理(Transformation)をより効率的に行うためのツールです。この記事で... Read more
株式会社SiNCE 4 months ago Follow 清瀧 颯太 BigQuery上のデータを使って省メモリでバスケット分析 今回はBigQuery上のデータから同時に購入される商品について分析を行うバスケット分析を行ってみたので、その実装方法をまとめたいと思います。データサイズが大きく使用するメモリを削減した実装を行... Read more
株式会社SiNCE 5 months ago Follow SiNCE 編集部 and 5 others BigQueryのQUALIFY句でウィンドウ関数をマスターしよう。logo_BQ BigQueryのSQL言語は、データ分析や処理の際に強力なツールです。中でもQUALIFY句は、ウィンドウ関数とともに使われ、特定の条件を満たす行を簡潔に抽出するための重要な機能です。QUAL... Read more
株式会社SiNCE 6 months ago Follow SiNCE 編集部 and 5 others ディメンショナルモデリングとは?:dbt×BigQueryを使ったデータモデリング入門 この記事では、BigQueryとdbt(Data Build Tool)Cloudを使用してデータモデリングにおけるディメンショナルモデリングの基本について解説しています続きはこちらから。 Read more
株式会社SiNCE 6 months ago Follow SiNCE 編集部 and 5 others データパイプライン構築入門: FiveTranとBigQueryを接続する方法 FiveTranはデータ統合ツールであり、ELTプロセスの「E」、つまり抽出(Extraction)の部分を担当しています。今回はBigQueryを例にその接続方法の基本的な手順を解説していきま... Read more
株式会社SiNCE 10 months ago Follow SiNCE 編集部 and 4 others [データ分析のためのBigQueryクエリ]SQLで1年LTVの算出 概要:この記事では、BigQueryを使用してデータ分析を行う方法を紹介します。顧客ごとに、最初の注文日から1年間の間に発生した購入金額の合計を算出します。1年LTVを算出することで優良顧客のセ... Read more
株式会社SiNCE 10 months ago Follow SiNCE 編集部 and 4 others [データ分析のためのBigQueryクエリ]SQLで年別RFM分析 この記事では、BigQueryを使用してデータ分析を行う方法を紹介します。RFM分析はPythonなどで行うケースが多いですが、SQLでも非常なシンプルなクエリで算出することができます。RFM分... Read more
株式会社SiNCE 10 months ago Follow SiNCE 編集部 and 4 others [データ分析のためのBigQueryクエリ]SQLで年別優良顧客推移を算出 この記事では、BigQueryを使用してデータ分析を行う方法を紹介します。別記事でご紹介した年別RFM分析を利用して、優良顧客数推移を算出します。時間経過ごとに顧客属性の変化を追うことで、顧客ニ... Read more
株式会社SiNCE 10 months ago Follow SiNCE 編集部 and 4 others [BigQuery]アンネストって何?どんな処理が行われているの? 今回はBigQuery上で行われるアンネスト(UNNEST)処理についてご紹介します。続きはこちら… Read more
株式会社SiNCE 10 months ago Follow SiNCE 編集部 and 4 others 【SQL文不要】BigQueryで簡単に統計情報を確認する方法 BigQueryは、クラウドベースのデータウェアハウスプラットフォームであり、高速なデータ処理と分析を提供します。統計情報は、データセットやテーブルに関する重要な洞察を提供し、クエリパフォーマン... Read more