Java一站式开源的数据中台,适合中小企业的大数据解决方案附源码(java数据中台开发)

LarkMidTable 是一站式开源的数据中台,实现元数据管理,数据仓库开发,数据质量管理,数据的可视化,实现高效赋能数据前台并提供数据服务的产品。

产品愿景

1.满足许多的小企业,提供一站式的解决方案。

2.做出世界级别,能够媲美BAT大厂的产品。

3.创造价值,产生价值,让世界变得更加美好。

产品架构图

Java一站式开源的数据中台,适合中小企业的大数据解决方案附源码(java数据中台开发)

产品技术选型

组件

用途

clickhouse/doris

离线数仓

kafka

实时数仓

datax,flinkx

数据集成

flink,flinkcdc,seatunnel

数据开发

promicuse

数据监控

druid

数据服务

datart

数据可视化

cdh

大数据平台

dolphin

任务调度

产品效果图

Java一站式开源的数据中台,适合中小企业的大数据解决方案附源码(java数据中台开发)Java一站式开源的数据中台,适合中小企业的大数据解决方案附源码(java数据中台开发)Java一站式开源的数据中台,适合中小企业的大数据解决方案附源码(java数据中台开发)Java一站式开源的数据中台,适合中小企业的大数据解决方案附源码(java数据中台开发)Java一站式开源的数据中台,适合中小企业的大数据解决方案附源码(java数据中台开发)Java一站式开源的数据中台,适合中小企业的大数据解决方案附源码(java数据中台开发)

linux部署文档

系统要求

window系统和Linux需要安装python环境,并配置环境变量

  • java版本: Java 8
  • 数据库版本: Mysql5.7
  • 运行环境: MacOS, Windows,Linux,python

1.系统依赖包下载

1.获取flinkx-1.12-SNAPSHOT压缩包,关注公众号【LarkMidTable】发送 【flinkx】

2.将flinkx用压缩软件解压后

linux部署:

上传解压目录flinkx到linux**【注意: 修改Linux目录权限 chown -R 用户:用户 777】**

window部署:

解压后存放在window本地

2.web的安装

2.1 创建数据库

执行bin/db下面的web.sql文件(数据库版本5.1.0版本)

2.2编译打包

1.直接从Git上面获得源代码,在项目的根目录下执行如下命令

mvn clean install

2.执行成功后将会在工程的build目录下生成安装包

packages/admin_{VERSION}.tar.gz

2.3解压安装包

Linux方式部署的解压方式

解压安装包

tar -zxvf admin_2.1.2_1.tar.gz

window方式部署解压方式

解压 admin_2.1.2_1.tar.gz 安装包,使用winRAR解压

2.4安装配置

修改项目配置

1.修改路径admin/conf/ 下面的application.yml文件

#数据源 datasource: username: root password: root url: jdbc:mysql://localhost:3306/web?serverTimezone=Asia/Shanghai&useLegacyDatetimeCode=false&useSSL=false&nullNamePatternMatchesAll=true&useUnicode=true&characterEncoding=UTF-8 driver-class-name: com.mysql.jdbc.Driver .... .... ....flinkx: job: accessToken: #i18n (default empty as chinese, "en" as english) i18n: ## triggerpool max size triggerpool: fast: max: 200 slow: max: 100 ### log retention days logretentiondays: 30 executor: flinkxHome: /home/hadoop/flinkx/flinkx.py jsonPath: /home/hadoop/flinkx/job/ logHome: /home/hadoop/flinkx/nohup.out

1.将localhost修改为数据库的地址

2.将flinkxHome,jsonPath,logHome 配置成flinkx所在目录

例如: Linux部署的配置**【获取flinkx-1.12-SNAPSHOT压缩包,关注公众号【LarkMidTable】发送 【flinkx】】**

executor: flinkxHome: /home/hadoop/flinkx/flinkx.py jsonPath: /home/hadoop/flinkx/job/ logHome: /home/hadoop/flinkx/nohup.out

例如:window部署的配置**【获取flinkx-1.12-SNAPSHOT压缩包,关注公众号【LarkMidTable】发送 【flinkx】】**

executor: flinkxHome: E:/flinkx/flinkx.py jsonPath: E:/flinkx/job/ logHome: E:/flinkx/nohup.out

2.5启动程序

Linux部署启动的方式:

[hadoop@mini4 bin]$ cd admin/bin[hadoop@mini4 bin]$ sh admin.sh start

window部署启动的方式:

运行adminbin下的admin.bat文件即可

2.6验证是否启动成功

Linux部署验证启动是否成功:

[hadoop@mini4 bin]$ jps24931 AdminApplication

window部署验证启动是否成功:

09:10:58.619 admin [main] INFO c.l.a.AdminApplication - Access URLs:---------------------------------------------------------- Local-API: http://127.0.0.1:8080/doc.html External-API: http://192.168.1.22:8080/doc.html web-URL: http://127.0.0.1:8080/index.html ----------------------------------------------------------09:11:01.001 admin [web, admin JobScheduleHelper#scheduleThread] INFO c.l.a.c.t.JobScheduleHelper - >>>>>>>>> init web admin scheduler success.

2.7访问首页

启动成功后打开页面(默认管理员用户名:admin 密码:123456) http://{ip}:8080/index.html#/dashboard

应用领域

智慧校园 、智慧交通 、智慧金融 、智慧农业、智慧医疗、智慧政务 等多个大数据领域

如果你想要源码,请记得转发 关注 私信

私信回复【一站式大数据中台

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

(0)
上一篇 2022年8月2日 上午10:23
下一篇 2022年8月2日 上午10:25

相关推荐

  • 5个手机必备的实用APP,我越用越喜欢(手机好用的app)

    哈喽大家好呀,不知道你们的手机一般使用最多的APP是哪些呢?今天我给大家分享5款手机必备的实用APP,我越用越喜欢。 它拥有充满个性的播放页面,只需要上下滑动屏幕就能切换音乐,而且…

    科研百科 2022年5月22日
    329
  • 中建西北院:党建引领 共绘“五彩”新画卷

    2022年,中国建筑西北设计研究院(简称“中建西北院”)70华诞。70年来,中建西北院始终坚定文化自信,坚持“以人民为中心”创作,秉承传承与创新、坚持和谐与合作、追求共生与共赢,走…

    2022年6月10日
    266
  • 北大中文系2024级硕博推免生拟录取分析!(北大中文系2024级硕博推免生拟录取分析报告)

    北大中文系简介 北京大学中文系迄今已创建113周年,学术薪火相传,历史上名师辈出。京师大学堂的中国文学门是北大中文系的前身。当下,由多位学科带头人,以及7位博雅特聘教授、20多位杰…

    科研百科 2024年4月22日
    189
  • 文档协同办公软件有哪些(文件协同办公)

    文件协同办公:高效协作的关键技术 随着现代办公方式的不断演变,文件协同办公已经成为了现代企业和组织中不可或缺的一部分。文件协同办公不仅仅是简单的共享文件,它涉及到了组织内部的协作、…

    科研百科 2024年6月6日
    103
  • 中央是否有文件规定企业退休党员移交给名社区?

    中央是否有文件规定企业退休党员移交给名社区? 近年来,随着人口老龄化的不断加剧,企业退休党员这一群体的重要性也越来越凸显。然而,关于企业退休党员的移交问题,中央并没有出台专门的文件…

    科研百科 2024年10月4日
    32
  • 党务外包相关规定

    党务外包相关规定 随着现代管理的需要和互联网技术的飞速发展,党务外包已成为一种新兴的商业模式。党务外包是指将党务工作委托给第三方专业机构或公司进行处理,以提高效率和服务质量。然而,…

    科研百科 2024年11月14日
    18
  • 科研项目步骤 科研项目工作流程

    科研项目步骤和工作流程是确保科研项目成功进行的重要基础。以下是一般的科研项目步骤和工作流程: 1. 确定研究目标和问题:在开始科研项目之前,必须明确研究目标和问题。这将有助于确定研…

    科研百科 2024年7月30日
    77
  • excel协同办公

    Excel协同办公:提高团队协作效率 随着现代企业的不断发展,团队协作已经成为了一个必不可少的环节。而Excel作为企业常用的电子表格软件,其协同办公能力也越来越受到重视。在本文中…

    科研百科 2024年8月21日
    39
  • 航材院621所是军工企业吗

    航材院621所是军工企业吗 航材院621所是军工企业吗?这是一个值得讨论的问题。航材院621所是中国航空航天工业的基础之一,是中国航材领域的大型科研单位。然而,关于航材院621所是…

    科研百科 2024年10月31日
    39
  • 新闻专业科研项目课题

    新闻专业科研项目课题: 探究新闻的真实性和客观性 近年来,新闻的真实性和客观性一直是新闻界和研究的热点话题。随着互联网和社交媒体的普及,新闻报道的真实性和客观性变得更加重要。为了探…

    科研百科 2025年3月12日
    0