ides
ides copied to clipboard
智能数据探索服务(Intelligent Data Exploration Service),一站式Data + AI数据解决方案!
我启用了ides rest server并开启了request-log配置,在请求的日志文件里发现api请求时间显示不正常: 我请求时间是:`2022-08-12 14:54:44` 结果在log文件中显示是`02:54:44`,这会和凌晨时间无法区分,请求修正! 配置参数主要如下: - ides.spark.service=true - ides.server.request-log.enable=true
我在启动repl shell时,使用--jars加入mysql connector依赖,在真实运行时还是报了错误:java.lang.ClassNotFoundException: com.mysql.jdbc.Driver。 运行命令如下: ```shell ./bin/ides-shell --jars /Users/sgr/.ivy2/jars/mysql_mysql-connector-java-5.1.36.jar ``` 执行报错如下:
`python` 作为数据科学家必备的技能,常常用来进行数据挖掘、机器学习等工作。ides为了兼顾集成python为数据挖掘的核心工具,打算在repl模式扩展执行原生python语言的能力。 有两种方案考虑: 1. 开发 `pyides` 客户端,独立支持ides dsl和原始的python语言的运行 2. 在原先`ides-shell` 客户端里实现通过 `%python`命令进入python语言环境,`%` 命令退出python坏境,像这样:
ides自定义了一整套dsl,如(load/save/set/connect...)等语法,[具体参考](https://www.yuque.com/ides/docs/xzfg0p)。 我们希望从语法层原生支持`sql`、`python`等语言的执行,这样可以丰富脚本开发,因为很有可能某些同学习惯使用`sql`或`python`进行数据处理(算法同学同样需要`python`加持)。
csv文件某些文本字段里存在换行符,如: ```csv id,name,desc 1,spark,"spark是一个分布式计算框架" 2,ides,"ides是一个分布式计算框架,解决了统一大数据+AI开发流程, 简化了数据处理、数据分析、数据挖掘、机器学习等过程" ``` > 总共2行数据,第二行存在换行 问题是: 1. 如何正确读取字段存在换行的csv数据? 2. 如何将csv数据保存到hive表中,并能正确解析读写?