[Spark] 读取项目下resources/的文件

2023-12-21 15:54:39

背景
这个spark程序要读取项目下的一些文件, 当我把这个项目打成jar包后, spark-submit到集群后执行

将文件作为资源文件打包到 JAR 中可以通过 Maven 或 sbt 这样的构建工具完成。以下是使用 Maven 的步骤:

  1. 首先,在你的 Maven 项目中创建一个目录(比如 src/main/resources)用来存放资源文件。

  2. 将需要打包的文件放入这个目录下
    src/main/resources/aaaaaa.txt

  3. 在 Maven 项目的 pom.xml 文件中,添加以下配置,告诉 Maven 应该将这些文件打包到 JAR 中:

<build>
    <resources>
        <resource>
            <directory>src/main/resources</directory>
            <includes>
                <include>**/*</include>
            </includes>
        </resource>
    </resources>
</build>
  1. 然后使用 mvn package 命令构建你的项目,Maven 会自动将资源文件打包到生成的 JAR 文件中。

在程序中,你可以使用 getResourceAsStream 方法来读取这些资源文件,例如:

val inputStream = getClass.getResourceAsStream("/aaaaaa.txt")
val fileContent = scala.io.Source.fromInputStream(inputStream).getLines().mkString("\n")

通过上述步骤,你就可以将文件作为资源文件打包到 JAR 中,并在程序中正常读取这些文件了。希望对你有所帮助!

文章来源:https://blog.csdn.net/qq_44810930/article/details/135131250
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。