Databricks Connect for Scala の制限事項

この記事では、Databricks Connect for Databricks Runtime 13.3 LTS 以降について説明します。

この記事では、Databricks Connect for Scala の制限事項の一覧を示します。 Databricks Connect を使用すると、一般的な IDEs、ノートブック サーバー、およびカスタム アプリケーションを Databricks コンピュート リソースに接続できます。 「Databricks Connect とは」を参照してください。この記事の Python バージョンについては、「 Databricks Connect for Python の制限事項」を参照してください。

重要

使用している Scala、Java、Databricks Runtime、Databricks Connect のバージョンによっては、一部の機能にバージョン要件がある場合があります。 「要件」を参照してください。

機能の可用性

Databricks Connect for Databricks Runtime 13.3 LTS 以下では使用できません。

  • ストリーミング foreachBatch

  • 128 MB を超える DataFrames の作成

  • 3600秒以上の長いクエリー

  • 専用アクセス モードを使用するコンピュート リソース上のスカラー UDFs (旧称シングル ユーザー)

利用できません:

  • Databricks ユーティリティ:credentialslibrarynotebook workflowwidgets

  • Spark コンテキスト

  • RDDの

  • CREATE TABLE <table-name> AS SELECT (代わりに、 spark.sql("SELECT ...").write.saveAsTable("table")を使用します)

  • log4j ログレベルの変更 SparkContext

  • 分散機械学習トレーニング

  • ローカル開発環境とリモートコンピュートリソースの同期