Navigation

    MemFireDB论坛

    • Register
    • Login
    • Search
    • Categories
    • Recent
    • Tags
    • Popular
    • Users
    • Groups
    1. Home
    2. admin
    A
    • Profile
    • Following 0
    • Followers 0
    • Topics 170
    • Posts 315
    • Best 121
    • Groups 1

    admin

    @admin

    administrators

    204
    Reputation
    8
    Profile views
    315
    Posts
    0
    Followers
    0
    Following
    Joined Last Online

    admin Unfollow Follow
    administrators

    Best posts made by admin

    • 教程22:快速入门| 使用MemFire Cloud构建Flutter应用程序

      快速入门|使用MemFire Cloud构建Flutter应用程序,视频讲解,手把手引导入门
      https://docs.memfiredb.com/base/example/QuickstartsFlutter.html

      posted in MemFireDB培训
      A
      admin
    • MemFire技术架构简介

      MemFire架构图如下:
      a89abe40-3d9c-4044-acc9-984f7b6f84e4-image.png
      MemFire通过一组节点(可以是VM、物理机器)组成的集群对外提供数据库服务;
      MemFire有两组服务:Master和Server,都通过raft提供高可用性支撑;
      Master负责存储元数据信息,以及提供数据库的创建、删除等功能;同时负责数据负载均衡控制、Server故障处理等。
      Server负责用户数据的存储和访问;

      posted in MemFireDB介绍文章
      A
      admin
    • RE: 作为分布式数据库,MemFire与TiDB有什么区别呢?

      @moon
      TiDB与MemFire都支持功能特性包括:
      (1)水平弹性扩展
      (2)强一致性的分布式事务
      (3)多副本,自动故障恢复
      (4)自动故障恢复的高可用

      两者技术相似:
      1、 采用分布式架构
      2、 本地存储引擎选择都是RocksDB之上进行改造
      3、 受到Google Spanner论文影响;
      4、 采用raft协议来保证多副本数据的一致性
      5、 两阶段提交(2PC)来保证事务的原子性
      6、 MVCC来实现并发访问控制
      7、 基于角色的访问控制(RBAC)

      差异性:
      1、MemFire2.1作为OLTP数据库,TiDB产品现在演变为HTAP数据库
      TiDB从最开始的OLTP数据库演变为HTAP数据库,推出了TiSpark,应用于大规模OLAP实时分析场景,作为计算引擎;同时为了解决HTAP场景的隔离性,推出了TiFlash组件。
      MemFire 2.1目前是作为OLTP数据库,长远发展HTAP数据库。
      2、访问接口不同,TiDB兼容MySQL,而MemFire兼容PG

      posted in MemFireDB用户问答
      A
      admin
    • 教程17:应用实战|使用Grafana可视化监控MemFire Cloud数据

      应用实战|使用Grafana可视化监控MemFire Cloud数据:https://mp.weixin.qq.com/s/1t6jDHdc1ZMAe_7iu2geWA

      posted in MemFireDB培训
      A
      admin
    • 客户案例 | 政务应急物联网数据中台项目

      客户背景

      党的十八大以来,中央多次就应急管理工作做出重要指示:要求坚持以防为主、防抗救相结合,全面提升综合防灾能力;坚持生命至上、安全第一,完善安全生产责任制,坚决遏制重特大安全事故。

      对新形势新任务新要求,某市应急管理局紧紧抓住应急管理事业改革发展的重大战略机遇,实现了省内生产企业感知监测数据统一接入、物联监测数据本地存储,将汇聚的全省实时传感器数据共享分发给不同的化工园区、地市级别应急管理局,从而帮助各个单位做好安全生产管理工作。同时推进重点危险化学品试点企业开展风险辨识,完成风险分析单元划分、危险源辨识、风险评估等专项工作,制定管控措施并分级管控,形成风险清单,并将双控数据(风险、隐患、排查任务等)上报。通过试点建设,逐步推动全省重点危险化学品企业建立风险分级管控和隐患排查治理双重预防机制。

      业务挑战

      1、海量数据存储难题。传感器数据类型多、10亿+数据量,单库单表难以存储,且随着时间消逝,容量和数据条数会随之增长。同时,考虑后期接入全省危化企业双控数据,需存储1年以上历史数据。

      2、缺乏合规性检查。部分企业未严格按规范操作,上报数据缺少字段,引入问题;

      3、统一制定上传程序接口规范文档,并提供给试点危险化学品企业;

      4、数据访问控制问题。每个监管单位仅能查看其管理辖区内的数据,不可越权访问。如何进行访问权限管控,保护安全生产企业重要敏感数据。

      5、面临性能挑战。海量实时传感器数据,无法直接入库,需进行加工处理,分发,然后写入数据库进行存储并共享。

      方案简介

      针对客户需求,采用一套3节点的MemFireDB分布式数据库集群存储经过加工处理过的安全生产企业传感器实时和历史数据,并提供标准SQL接口给各个化工园区、地市应急监管单位共享。采用一套3节点的MemFireDB分布式数据库集群作为前置库,存储全省危化企业上传的结构化隐患排查、任务清单数据,并提供标准SQL接口给数据治理调用,进行数据清洗、加工。

      3.png

      上述方案中,省厅内已汇聚全量的安全生产企业传感器实时数据,并通过统一消息服务组件进行传输。Filnk实时处理引擎利用分发模型+企业基础信息来加工实时传感器数据,并将加工处理后的数据结果存储到MemFireDB数据库。危险化学品企业本地有双控数据库,用来存储隐患排查、任务清单数据,同时使用上报程序,采用统一的数据http接口,将数据上报到省应急管理厅。应急管理厅内部接收程序收到数据,并进行合规性检查,将数据存入MemFireDB数据库中的数据表中,提供标准数据库SQL以便于数据治理抽取库中数据进行清洗、加工,然后结果数据存入MemFireDB集群。

      采用MemFireDB数据库集群来存储汇聚的10+亿级别的安全生产企业传感器数据、1+亿级别的双控数据(隐患排查、任务清单数据),采用RBAC方式进行用户访问权限管控,不同监管单位通过不同授权账号和标准的数据库SQL来获取共享的数据,提供历史毫秒级查询、长期存储需求。MemFireDB数据库集群主要存储经过加工分发后的数据,数据副本存储,按需可扩展、任意单节点宕机,业务正常可用。

      客户收益

      1. 灵活扩展, 降低前期建设成本

      统一建设,共享数据资源,降低总体成本。前期采用3节建设规模,避免资源浪费,可支持存储1年的历史数据,支持弹性伸缩,可满足未来业务需求。

      2.标准接口,降低开发成本。

      MemFireDB提供了标准的数据库SQL接口,与数据治理/其他业务方进行无缝对接,降低开发成本;

      3、保障了数据安全性

      通过采用基于角色的访问控制(RBAC),授予不同园区/下一级部门权限,保证数据安全可靠。

      posted in MemFireDB介绍文章
      A
      admin
    • 如何下载Windows、Linux、MacOS环境的客户端DbGate

      DbGate是开源免费的数据库客户端,适用于 Windows、Linux、MacOS多种环境,提供强大的功能服务,。
      下载地址:https://dbgate.org/
      bf82239e-24d5-45a5-bda5-81137068e79c-image.png

      posted in MemFireDB新手区
      A
      admin
    • 分布式数据库发展路径研究-CSTC白皮书

      分布式数据库发展路径研究-CSTC白皮书:https://www.modb.pro/doc/19347?yll

      posted in 灌水区
      A
      admin
    • RE: MemFire与MemFire Cloud有什么区别?

      @小00
      MemFire是敏博科技推出的一款高性能、分布式关系型数据库,支持分布式事务,在线平滑弹性伸缩,服务能力线性扩展,跨数据中心部署等能力,可以较好地兼容PostgreSQL的SQL访问形式。
      MemFire Cloud是面向公有云的数据库即服务产品,提供自助服务,便捷的管理服务,满足中小企业开发人员对数据库的使用需求;
      对比.png

      posted in MemFireDB用户问答
      A
      admin
    • MemFire组网方式介绍

      MemFire分布式数据库支持三种组网方式:
      1、 MemFire集群采用单节点模式,数据为1副本,这种单节点模式的数据可靠性、服务可用性相对较低,可以采用备份数据防止数据丢失
      802401be-45ef-4426-9b60-c4aa86a50b3e-image.png
      2、MemFire采用集群模式,Master和Server混合部署,提供高可靠性、可用性服务
      c22ea56d-21a5-4fc2-b414-b4b655e8a1c6-image.png
      3、MemFire采用集群模式,Master和Server分开部署,提供高可靠性、可用性服务
      0fe73b70-646b-47ea-92a7-cd9665e9ab4f-image.png

      posted in MemFireDB介绍文章
      A
      admin
    • MemFire Cloud的客户端工具有哪些?

      MemFire Cloud客户端工具如下:
      1、psql客户端,适用于Linux环境,安装命名: yum -y install postgresql11
      2、DbGate客户端,适用于 Windows、Linux、MacOS环境,下载地址: https://dbgate.org/
      3、dbeaver客户端,适用于 Windows、MacOS环境 下载地址:https://dbeaver.io/files/7.1.0/
      4、datagrip客户端,适用于Windows、Linux、MacOS环境,下载地址: https://www.jetbrains.com/datagrip/download/#section=windows
      5、Navicat Premium客户端,适用于Windows、Linux、MacOS环境,获取链接:https://pan.baidu.com/s/17r_oHwjeiC6Pqdq2c8yFLQ提取码:s4l7
      6、beekeeper-studio客户端,适用于 Windows、Linux、MacOS环境 ,下载地址:https://www.beekeeperstudio.io/get
      7、HeidiSQL客户端,适用于Windows环境,下载地址:https://www.heidisql.com/

      后续越来越多的客户端会陆续加入MemFire Cloud生态,请期待哦~

      posted in MemFireDB新手区
      A
      admin

    Latest posts made by admin

    • 关于免费应用超过7天未使用暂停说明

      免费版的应用目前的暂停机制是:

      • 7*24小时内对应用没有接口调用以及数据访问的情况下,MemFire Cloud平台将会暂停该应用。

      • 此时用户将无法正常访问该应用提供的服务,包括云数据库、静态托管、云函数、云存储等。

      • 对于暂停的应用,用户可手动进行恢复。

      posted in MemFireDB用户问答
      A
      admin
    • [转载] 【原理篇】Supabase 权限模型 Part2

      【原理篇】Supabase 权限模型 Part2 :

      https://mp.weixin.qq.com/s/CalnEPexigyiH2H3aE1rzw

      posted in 公告
      A
      admin
    • [转载] 【原理篇】Supabase 权限模型 Part1

      https://mp.weixin.qq.com/s/P6qzx8CM8RLG4sNa9Bn-qw

      posted in 公告
      A
      admin
    • RE: 使用API可以变更数据表的结构么,比如新增加一列

      @dean 可以参考:https://blog.mansueli.com/dynamically-adding-columns-with-supabase-and-postgres

      亦可通过pg-meta接口执行sql,修改表结构

      github地址:https://supabase.github.io/postgres-meta/

      文档地址:https://supabase.github.io/postgres-meta/

      1

      posted in MemFireDB用户问答
      A
      admin
    • 转载【架构篇】Supabase架构和功能介绍

      Supabase是什么

      Supabase将自己定位为Firebase的开源替代品,提供了一套工具来帮助开发者构建web或移动应用程序。Supabase是建立在Postgres之上的,Postgres是一个免费的开源数据库,被认为是世界上最稳定、最先进的数据库之一。Supabase对标Firebase,因此也属于BaaS,下面是cloudflare对BaaS的一段比较经典的定义描述:

      后端即服务 (BaaS) 是一种云服务,开发人员在使用BaaS进行 Web 或移动应用开发时,仅需自行编写和维护前端代码。BaaS提供商为开发者提供了开发应用所需要的后端服务,例如用户身份验证、数据库管理、推送通知(针对移动应用程序),以及云存储和托管等。

      1.png

      BaaS 使开发人员可以专注于编写前端应用程序代码。通过 BaaS 供应商提供的 API和 SDK,他们可以集成所需的所有后端功能,而无需自行构建后端。他们也不必管理服务器、虚拟机或容器,即可保持应用程序运行。因此,开发者可以更快地构建和启动移动应用程序和 Web 应用程序。

      Supabase与Firebase的关系

      Supabase号称是Firebase的开源替代,但其底层技术和对外接口实际上跟Firebase完全不同,因此用Firebase开发的应用是不能直接迁移到Supabase上的,需要进行代码改造。

      下面是一些主要的区别:

      • Firebase提供的是NoSQL接口(Firestore),其功能和接口相对简单,入门容易,但是数据关联查询能力要弱很多。而Supabase的底层是PostgreSQL,可以作为简单的kv来使用,也可以完成复杂的企业级场景应用的构建。
      • Supabase的核心组件都是基于开源工具构建的。Firebase只有商业版本,且国内无法使用。
      • 开发者如果有条件,可以自己部署Supabase在私有云环境中使用。Firebase则只能使用Google的服务。

      Supabase基本架构

      Supabase围绕PostgreSQL组合了一系列的开源工具,用以实现BaaS所需的用户认证、实时数据库、对象存储、RESTAPI接口等功能。在整合这些工具的同时,为开发者封装了统一的SDK,方便开发者以统一的方式调用这些能力。官方提供了JavaScript和Flutter的SDK,社区贡献了Python、C#、Swift、Kotlin的SDK,开发者在开发移动端和web应用时,可以很方便的调用Supabase提供的后端能力。

      下面是Supabase整体架构图:

      2.png

      开发者主要通过三个组件来使用****Supabase

      • Supabase SDK

      如上所述,Supabase官方及社区贡献了目前主流的移动端和Web端的SDK,帮助开发者更容易的开发应用。Supabase SDK有非常多的子项目构成,通常以Supabase-*命名,如Supabase-js,Supabase-dart。

      • Supabase Studio

      Studio是Supabase的管理页面,也就是suapbase的官方网站以及project管理控制台这些Web及后端服务都是Studio这个工具实现的。studio的代码在Supabase的主仓库里。

      • Supabase CLI

      Supabase的命令行管理工具,可以方便的在命令行上管理project。

      Supabase****通过四个核心组件为开发者提供后端服务

      • Postgrest

      postgres是一个历史比较悠久的开源组件,能够将postgresql以REST接口暴露给开发者,开发者可以直接通过HTTP接口操作数据库。

      • storage api

      提供对象存储功能,解决开发者需要上传、下载文件的需求,比如图片、文档等。storage api将数据存储在S3存储上。

      • gotrue

      用户登录认证模块,帮助用户简化其应用的用户管理。允许开发者使用邮箱、手机号进行注册、登录模块的开发,也可以通过OAuth协议接入github、google、apple等平台的账号。

      • realtime

      realtime利用postgresql的listen/notify机制,实现了postgres数据库实时数据变更通知能力。

      在此基础上,Supabase还提供了如下一些能力

      • 云函数:edge function

      postgrest本身提供了调用postgresql function的能力,开发者可以在pg中用sql或者JavaScript编写函数,然后通过rpc接口调用pg的函数。pg的函数能在一定程度上解决部分业务场景的需求,但是仍旧存在一些不方便或者不直观的地方。

      云函数(edge function)可以更灵活的适配一些场景,比如支付等需要跟第三方系统进行对接的场景,使用云函数可以让开发者编写后端代码并运行在服务端。

      • Graphql

      graphql是通过postgresql插件实现的,开发者在postgres建表之后,可以直接通过graphql进行数据库操作。

      • Web hook

      Web hook为开发者提供了事件触发能力,开发者可以设定满足某个条件时,自动触发外部接口的调用,从而跟第三方系统进行集成。比如跟飞书机器人集成。

      Supabase****还依赖下面这些组件来提供服务

      • PostgreSQL

      一切的核心。Supabase整个服务是围绕PostgreSQL构建的。

      • kong

      API网关。负责将API请求路由到目标服务组件,并转发结果给用户。

      • postgres-meta

      PostgreSQL的元数据管理组件,主要为studio提供服务,可以用来查询数据库中的表、角色,执行SQL等。

      Supabase技术栈

      由于Supabase组合非常多的开源组件,因此其后端服务(不包括SDK)的整体技术栈也相对复杂。使用到的开发语言和框架有:

      • Javascript/Typescript
      • Tailwind
      • Go
      • Elixir
      • Haskell
      • React
      • Nextjs
      • Phoenix
      • fastify
      • knex
      • chi

      这其中有不少国内比较冷门的编程语言,比如Haskell、Elixir

      Supabase SDK介绍

      Supabase的SDK也是通过组合多个客户端库实现的,以JavaScript SDK为例:

      3.png

      如上图所示,Supabase-js实际上是粘合了多个不同的组件的sdk客户端,这样做的好处:

      • 开发者不需要关注某个具体的组件如何工作,全部统一使用Supabase-js的接口访问后端服务。
      • Supabase-js帮助开发者完成了各个组件间用户认证鉴权的统一处理。

      总结

      Supabase以PostgreSQL为核心,组合使用了很多优秀的开源工具,为开发者提供了一个架构良好、简单易用的开发平台。用户可以使用Supabase提供的托管服务,也可以使用这些组件自己搭建平台在内部使用。伴随着PostgreSQL的流行,整个pg生态会更加完善,开发者也会越来越多的首选PostgreSQL作为核心数据库。Supabase几乎是将PostgreSQL当做操作系统来使用,充分发掘了PostgreSQL的各种优势和能力,在后面我会给大家做更多的分享,相信能让你脑洞大开。

      posted in 公告
      A
      admin
    • 小课堂,如何使用REST API来直接操作Postgres数据库

      小课堂,如何使用API来直接操作数据库:

      github地址:https://supabase.github.io/postgres-meta/

      文档地址:https://supabase.github.io/postgres-meta/

      posted in MemFireDB新手区
      A
      admin
    • 小课堂,MemFire Cloud认证篇

      MemFire Clud中采用PostgREST对请求进行身份验证,然后让数据库授权客户端操作,具体可以参考:
      https://postgrest.org/en/stable/references/auth.html

      posted in MemFireDB新手区
      A
      admin
    • RE: 关于对象存储设置无反应的问题?

      @xiaona 上限就是20MB哟,如果是付费用户,则可以设置
      0615849f-1700-407d-9564-7f474a91d3f8-9b13ed95dfd363d2bc892ba0d8fb865.png

      posted in MemFireDB新手区
      A
      admin
    • RE: 云数据库中使用order语句怎么写,类似order by id desc

      @aliyoge 在线手册里头有直接找SDK文档哈参考:https://document.memfiredb.com/docs/reference/javascript/order

      76d6ee5d-1836-48ab-aa5b-1fd3cc228683-e1914453bc7de9b82fde62a3274452d.png

      posted in MemFireDB用户问答
      A
      admin
    • RE: 使用python来访问MemFire Cloud应用,按字段排序order代码怎么写?

      @dean 可以参考:https://postgrest-py.readthedocs.io/en/latest/api/request_builders.html#postgrest.SyncSelectRequestBuilder.order

      5306e087-7922-4861-9f2d-0a2f17746c11-b4a902db22f84babcdb204aeca374d8.png

      posted in MemFireDB用户问答
      A
      admin