Instale o Databricks Connect para Scala

Requisitos

• Seu destino Databricks workspace e cluster deve atender aos requisitos de configuração de computação para Databricks Connect.

• O senhor tem o Java Development Kit (JDK) instalado em seu computador de desenvolvimento. Databricks recomenda que a versão de sua instalação do JDK corresponda à versão do JDK em seu cluster Databricks. Para encontrar a versão do JDK do Databricks Runtime em seu cluster, consulte a seção Ambiente do sistema do Databricks Runtime notas sobre a versão ou a tabela de compatibilidade de versões.

  Observação

  A escolha de uma instalação do JDK que esteja abaixo ou acima da versão do JDK em seu cluster pode produzir resultados inesperados, ou seu código pode não ser executado.

• O senhor tem o Scala instalado em sua máquina de desenvolvimento. Databricks recomenda que a versão da instalação do Scala corresponda à versão do Scala no clustering do Databricks. Para encontrar a versão Scala da versão Databricks Runtime do seu clustering, consulte a seção Ambiente do sistema das Databricks Runtime notas sobre a versão ou a tabela de compatibilidade de versões.

• Se estiver usando funções definidas pelo usuário (UDFs), as versões locais Scala e Java devem corresponder às versões Scala e Java da versão Databricks Runtime do clustering. Para encontrar as versões Scala e Java da versão Databricks Runtime do seu clustering, consulte a seção Ambiente do sistema das Databricks Runtime notas sobre a versão ou a tabela de compatibilidade de versões.

• Uma ferramenta de compilação Scala na sua máquina de desenvolvimento, como sbt.

Adicionar uma referência ao cliente Databricks Connect

Para configurar o cliente Databricks Connect, primeiro adicione uma referência ao cliente. No arquivo de compilação do seu projeto Scala, como build.sbt para sbt, pom.xml para Maven ou build.gradle para Gradle, adicione a seguinte referência ao cliente Databricks Connect. Substitua 14.0.0 pela versão da biblioteca Databricks Connect que corresponde à versão do Databricks Runtime em seu cluster. O senhor pode encontrar os números de versão da biblioteca Databricks Connect no repositório central do Maven.

• Sbt
• Maven
• Gradle

Cópia de

libraryDependencies += "com.databricks" % "databricks-connect" % "14.0.0"

Cópia de

<dependency>
  <groupId>com.databricks</groupId>
  <artifactId>databricks-connect</artifactId>
  <version>14.0.0</version>
</dependency>

Cópia de

implementation 'com.databricks.databricks-connect:14.0.0'

Configurar propriedades de conexão

Em seguida, configure as propriedades para estabelecer uma conexão entre o Databricks Connect e o cluster remoto do Databricks. Essas propriedades incluem configurações para autenticar o Databricks Connect com seu cluster. Consulte a configuração de computação para Databricks Connect.

Para Databricks Connect para Databricks Runtime 13.3 LTS e acima, para Scala, Databricks Connect inclui o Databricks SDK para Java. Esse SDK implementa o padrão de autenticação unificada do cliente Databricks, uma abordagem arquitetônica e programática consolidada e consistente para a autenticação. Essa abordagem torna a configuração e a automatização da autenticação com o Databricks mais centralizada e previsível. Ele permite que o senhor configure a autenticação do Databricks uma vez e, em seguida, use essa configuração em várias ferramentas e SDKs do Databricks sem outras alterações na configuração da autenticação.