likes
comments
collection
share

Golang微服务框架居然可以开发单体应用?—— Kratos单体架构实践

作者站长头像
站长
· 阅读数 46

Golang微服务框架居然可以开发单体应用?—— Kratos单体架构实践

TL;DR

微服务框架也是可以用于开发单体架构(monolith architecture)的应用。并且,单体应用也是最小的、最原始的、最初的项目状态,经过渐进式的开发演进,单体应用能够逐步的演变成微服务架构,并且不断的细分服务粒度。微服务框架开发的单体架构应用,既然是一个最小化的实施,那么它只需要使用到微服务框架最小的技术,也就意味着它只需要用到微服务框架最少的知识点,拿它来学习微服务框架是极佳的。

本文将围绕着一个我写的demo项目:kratos-monolithic-demo开展,它既是一个微服务框架Kratos的最小化实践,也是一个工程化实践的完全体。从中你可以学习到:

  1. 构建工具Make的使用;
  2. 依赖注入框架Wire的使用;
  3. Protobuf构建工具Buf的使用;
  4. ORM框架Ent的使用;
  5. OpenAPI在项目开发中的应用;
  6. 完整的CURD开发示例;
  7. 用户登陆认证。

为什么要学要用微服务框架?

我向身边的人推广微服务架构,但是经常会得到否定的态度,譬如:

  1. 我没有那么多在线人数,那么大的项目规模,我不需要微服务;
  2. 我用GIN就可以一把撸出来了,用什么微服务框架?
  3. 微服务框架太复杂了,学不来。 ……

总结下来,无非就是:

  1. 微服务知识面太广,上手太难,学习曲线太陡峭。
  2. 中小型项目,用不到微服务框架。

的确,微服务所需要的知识是挺多的:服务治理(服务注册和发现)、负载均衡、服务熔断、服务降级、服务限流、服务容错、服务网关、分布式配置、链路追踪、服务性能监控、RPC服务调用……

这么多知识点,上手的确是不容易,对于很多中小型企业来说,他们的项目规模小,大多的项目都是CURD项目,这种项目,开发者只需要知道怎么写HTTP路由,怎么写ORM,就行了,就可以上手做事情了。甚至于大部分代码都可以通过代码生成器来生成。要找到会这么多的人才,一个人员难以招聘,一个公司的资本也有限,需要控制成本,请不起。

那么,现在的情况看起来就很明显了:中小型企业,中小型项目,看起来确实是不需要微服务。

但,微服务框架也是用不到,不需要吗?

答案是否定的。

在实际的项目开发中,我有使用微服务框架Kratos开发过好几个单体架构的应用,并且上线运营。在最小的一个项目里面,我也就是用到了:REST服务,ORM访问数据库。涉及的知识点并不多,因此开发起来,也并没有复杂到哪里去。

那么,有人肯定会问我:那你用微服务框架的意义在哪里?

我的考量如下:

  1. 小项目不是我们的全部,我们也有中大型的项目,公司能够统一用一套技术栈,总是要好过于用多个技术栈。
  2. Kratos工程化做得比较好,比较好规范公司的开发。
  3. Kratos基于Protobuf定义协议,gRPC进行服务间通讯,在公司的强异构开发场景下,具有很强的实用价值。
  4. Kratos基于插件机制开发,极其容易对其进行扩展(看我的kratos-transport,我甚至插入了Gin、FastHttp、Hertz等Web框架)。

综上,是我的理由。在做技术选型的时候,我是横向对比了市面上几乎所有的框架,最终选择了Kratos。

还有一点就是,微服务的开发过程,并不是一步到位的——微服务的开发是渐进的,正所谓:一生二,二生三,三生万物——从单体应用开始逐步的拆分服务也并不是一件很稀奇的事情。

Demo代码仓库

代码在前,适合那些不喜欢看啰嗦的同学。

对于那些想学习使用微服务框架的同学,这一个微服务框架开发的单体项目,它本质上是一个最小化的项目,故而,它也是极为适合拿来学习之用的项目。

对我而言,它是一个工程化实验的实验田,我主要拿它实验软件工程的几个基本形式:

  1. 标准化
  2. 模块化
  3. 过程化
  4. 实用化和工具化。

项目结构

本项目包含了前端和后端的代码,前端是一个Vue3+TypeScript的Admin。但,前端不是本文的着重点,本文着重讲解后端。

前端项目在frontend文件夹中,后端项目在backend文件夹中,

后端项目结构:

├─api  # proto协议存放的路径
│  ├─admin # Admin服务,定义了REST的接口。
│  │  └─service
│  │      └─v1
│  ├─file # 文件服务,定义了文件上下传等。
│  │  └─service
│  │      └─v1
│  ├─system # 系统服务,定义了比如目录、路由等。。。
│  │  └─service
│  │      └─v1
│  └─user # 用户服务,定义了用户、组织架构、职位等。
│      └─service
│          └─v1
├─app # 应用程序所在的路径
│  └─admin
│      └─service
│          ├─cmd
│          │  └─server # 应用程序的入口
│          │      └─assets
│          ├─configs # 应用的配置文件
│          └─internal
│              ├─data # 应用的数据层,数据库操作的逻辑代码
│              │  └─ent # 使用的Facebook的ORM,entgo。
│              │      └─schema # 数据库表结构定义
│              ├─server # 应用的传输层,应用提供的输入输出点(创建REST、gRPC、Kafka等……)
│              └─service # 应用的服务层,REST、gRPC等的处理器代码。
├─gen # proto协议生成的go代码存放路径
│  └─api
│      └─go
│          ├─admin
│          │  └─service
│          │      └─v1
│          ├─file
│          │  └─service
│          │      └─v1
│          ├─system
│          │  └─service
│          │      └─v1
│          └─user
│              └─service
│                  └─v1
├─pkg # 公共代码存放路径
│  ├─errors
│  │  └─auth
│  ├─middleware
│  │  └─auth
│  ├─service
│  └─task
└─sql # 一些SQL查询的存放路径

前置知识

安装环境

安装Make

protoc安装

macOS安装

brew install protobuf

Ubuntu安装

sudo apt update; sudo apt upgrade
sudo apt install libprotobuf-dev protobuf-compiler

Windows安装

在Windows下可以使用包管理器ChocoScoop来安装。

Choco
choco install protoc
Scoop
scoop bucket add extras
scoop install protobuf

golang install安装的工具

go install google.golang.org/protobuf/cmd/protoc-gen-go@latest
go install google.golang.org/grpc/cmd/protoc-gen-go-grpc@latest
go install github.com/go-kratos/kratos/cmd/protoc-gen-go-http/v2@latest
go install github.com/go-kratos/kratos/cmd/protoc-gen-go-errors/v2@latest
go install github.com/grpc-ecosystem/grpc-gateway/v2/protoc-gen-openapiv2@latest
go install github.com/google/gnostic/cmd/protoc-gen-openapi@latest
go install github.com/envoyproxy/protoc-gen-validate@latest
go install github.com/bufbuild/buf/cmd/buf@latest
go install github.com/go-kratos/kratos/cmd/kratos/v2@latest

或者在后端项目根目录backend下执行:

make init

安装IDE插件

在IDE里面(VSC和Goland),远程的proto源码库会被拉取到本地的缓存文件夹里面,而这IDE并不知道,故而无法解析到依赖到的proto文件,但是,Buf官方提供了插件,可以帮助IDE读取并解析proto文件,并且自带Lint。

Wire的使用

Wire是谷歌开源的一个依赖注入的框架。

依赖注入的作用是:

  • 创建对象
  • 知道哪些类需要那些对象
  • 并提供所有这些对象

首先从注入源看起,在serverservicedata这几个包下面都存在一个:

var ProviderSet = wire.NewSet(...)

NewSet方法里面都是对象的创建方法。

wire的代码文件有两个:wire.gowire_gen.go,存放在main.go同级文件夹下。

wire.go

//go:build wireinject
// +build wireinject

// The build tag makes sure the stub is not built in the final build.

package main

import (
	"github.com/google/wire"

	"github.com/go-kratos/kratos/v2"
	"github.com/go-kratos/kratos/v2/log"
	"github.com/go-kratos/kratos/v2/registry"

	conf "github.com/tx7do/kratos-bootstrap/gen/api/go/conf/v1"

	"kratos-monolithic-demo/app/admin/service/internal/data"
	"kratos-monolithic-demo/app/admin/service/internal/server"
	"kratos-monolithic-demo/app/admin/service/internal/service"
)

// initApp init kratos application.
func initApp(log.Logger, registry.Registrar, *conf.Bootstrap) (*kratos.App, func(), error) {
	panic(wire.Build(server.ProviderSet, service.ProviderSet, data.ProviderSet, newApp))
}

这个文件不参与编译,是提供给代码生成器用的模板,它把ProviderSet中的依赖项引入进来,由代码生成器进行组装。

wire_gen.go

// Code generated by Wire. DO NOT EDIT.

//go:generate go run github.com/google/wire/cmd/wire
//go:build !wireinject
// +build !wireinject

package main

import (
	"github.com/go-kratos/kratos/v2"
	"github.com/go-kratos/kratos/v2/log"
	"github.com/go-kratos/kratos/v2/registry"
	"github.com/tx7do/kratos-bootstrap/gen/api/go/conf/v1"
	"kratos-monolithic-demo/app/admin/service/internal/data"
	"kratos-monolithic-demo/app/admin/service/internal/server"
	"kratos-monolithic-demo/app/admin/service/internal/service"
)

// Injectors from wire.go:

// initApp init kratos application.
func initApp(logger log.Logger, registrar registry.Registrar, bootstrap *v1.Bootstrap) (*kratos.App, func(), error) {
	authenticator := data.NewAuthenticator(bootstrap)
	engine := data.NewAuthorizer()
	entClient := data.NewEntClient(bootstrap, logger)
	client := data.NewRedisClient(bootstrap, logger)
	dataData, cleanup, err := data.NewData(entClient, client, authenticator, engine, logger)
	if err != nil {
		return nil, nil, err
	}
	userRepo := data.NewUserRepo(dataData, logger)
	userTokenRepo := data.NewUserTokenRepo(dataData, authenticator, logger)
	authenticationService := service.NewAuthenticationService(logger, userRepo, userTokenRepo)
	userService := service.NewUserService(logger, userRepo)
	dictRepo := data.NewDictRepo(dataData, logger)
	dictService := service.NewDictService(logger, dictRepo)
	dictDetailRepo := data.NewDictDetailRepo(dataData, logger)
	dictDetailService := service.NewDictDetailService(logger, dictDetailRepo)
	menuRepo := data.NewMenuRepo(dataData, logger)
	menuService := service.NewMenuService(menuRepo, logger)
	routerService := service.NewRouterService(logger, menuRepo)
	organizationRepo := data.NewOrganizationRepo(dataData, logger)
	organizationService := service.NewOrganizationService(organizationRepo, logger)
	roleRepo := data.NewRoleRepo(dataData, logger)
	roleService := service.NewRoleService(roleRepo, logger)
	positionRepo := data.NewPositionRepo(dataData, logger)
	positionService := service.NewPositionService(positionRepo, logger)
	httpServer := server.NewRESTServer(bootstrap, logger, authenticator, engine, authenticationService, userService, dictService, dictDetailService, menuService, routerService, organizationService, roleService, positionService)
	app := newApp(logger, registrar, httpServer)
	return app, func() {
		cleanup()
	}, nil
}

这个文件是由Wire的代码生成器生成而成。从代码可见,复杂的依赖调用关系被Wire轻松的理顺了。

代码生成

wire的代码生成有两种途径,一个是安装wire可执行程序,一个是使用go run动态编译执行。推荐动态编译执行,为什么呢?这样可以保证代码生成器的版本和项目中wire的版本是一致的,如果版本不一致,可能会带来一些问题。

go run -mod=mod github.com/google/wire/cmd/wire ./cmd/server

我已经把这条命令写入了app.mk,可以在app/admin/service路径下执行:

make wire

Buf的使用

buf.build是专门用于构建protobuf API的工具。

Buf本质上是一个调用protoc的工具,它可以把调用protoc的各种参数配置化,并且支持远程proto,远程插件。所以,Buf能够把proto的编译工程化。

它总共有3组配置文件:buf.work.yamlbuf.gen.yamlbuf.yaml

另外,还有一个buf.lock文件,但是它不需要进行人工配置,它是由buf mod update命令所生成。这跟前端的npm、yarn等的lock文件差不多,golang的go.sum也差不多。

它的配置文件不多,也不复杂,维护起来非常方便,支持远程proto插件,支持远程第三方proto。对构建系统Bazel支持很好,对CI/CD系统也支持得很好。它还有很多优秀的特性。

buf.work.yaml

它一般放在项目的根目录下面,它代表的是一个工作区,通常一个项目也就一个该配置文件。

该配置文件最重要的就是directories配置项,列出了要包含在工作区中的模块的目录。目录路径必须相对于buf.work.yaml,像../external就是一个无效的配置。

version: v1

directories:
  - api

buf.gen.yaml

它一般放在buf.work.yaml的同级目录下面,它主要是定义一些protoc生成的规则和插件配置。

# 配置protoc生成规则
version: v1

managed:
  enabled: true
  optimize_for: SPEED

  go_package_prefix:
    default: kratos-monolithic-demo/gen/api/go
    except:
      - 'buf.build/googleapis/googleapis'
      - 'buf.build/envoyproxy/protoc-gen-validate'
      - 'buf.build/kratos/apis'
      - 'buf.build/gnostic/gnostic'
      - 'buf.build/gogo/protobuf'
      - 'buf.build/tx7do/pagination'

plugins:
  # 使用go插件生成go代码
  #- plugin: buf.build/protocolbuffers/go
  - name: go
    out: gen/api/go
    opt: paths=source_relative # 使用相对路径

  # 使用go-grpc插件生成gRPC服务代码
  #- plugin: buf.build/grpc/go
  - name: go-grpc
    out: gen/api/go
    opt:
      - paths=source_relative # 使用相对路径

  # generate rest service code
  - name: go-http
    out: gen/api/go
    opt:
      - paths=source_relative # 使用相对路径

  # generate kratos errors code
  - name: go-errors
    out: gen/api/go
    opt:
      - paths=source_relative # 使用相对路径

  # generate message validator code
  #- plugin: buf.build/bufbuild/validate-go
  - name: validate
    out: gen/api/go
    opt:
      - paths=source_relative # 使用相对路径
      - lang=go

buf.yaml

它放置的路径,你可以视之为protoc--proto-path参数指向的路径,也就是proto文件里面import的相对路径。

需要注意的是,buf.work.yaml的同级目录必须要放一个该配置文件。

该配置文件的内容通常来说都是下面这个配置,不需要做任何修改,需要修改的情况不多。

version: v1

deps:
  - 'buf.build/googleapis/googleapis'
  - 'buf.build/envoyproxy/protoc-gen-validate'
  - 'buf.build/kratos/apis'
  - 'buf.build/gnostic/gnostic'
  - 'buf.build/gogo/protobuf'
  - 'buf.build/tx7do/pagination'

breaking:
  use:
    - FILE

lint:
  use:
    - DEFAULT

API代码生成

我们可以使用以下命令来进行代码生成:

buf generate

或者

make api

Ent的使用

Ent是一个优秀的ORM框架。基于模板进行代码生成,相比较利用反射等方式,在性能上的损耗更少。并且,模板的使用使得扩展系统变得简单容易。

它不仅能够很对传统的关系数据库(MySQL、PostgreSQL、SQLite)方便的进行查询,并且可以容易的进行图遍历——常用的譬如像是:菜单树、组织树……这种数据查询。

Schema

Schema相当于数据库的表。

《道德经》说:

道生一,一生二,二生三,三生万物。

Schema,就是数据库开发的起始点。

只有定义了Schema,代码生成器才能够生成数据库表的go数据结构和相关操作的go代码,有了这些生成后的代码,我们才能够通过ORM来操作数据库表。

ent还支持从Schema生成gRPC和GraphQL的接口定义,可以说ent已经打通了开发全流程——向后搞定了数据库,向前搞定了API。

创建一个Schema

创建Schema有两个方法可以做到:

使用 ent init 创建
ent init User

将会在 {当前目录}/ent/schema/ 下生成一个user.go文件,如果没有文件夹,则会创建一个:

package schema

import "entgo.io/ent"

// User holds the schema definition for the User entity.
type User struct {
    ent.Schema
}

// Fields of the User.
func (User) Fields() []ent.Field {
    return nil
}

// Edges of the User.
func (User) Edges() []ent.Edge {
    return nil
}
SQL转换Schema在线工具

网上有人好心的制作了一个在线工具,可以将SQL转换成schema代码,实际应用中,这是非常方便的!

SQL转Schema工具: printlove.cn/tools/sql2e…

比如,我们有一个创建表的SQL语句:

CREATE TABLE `user`  (
`id` int(10) UNSIGNED NOT NULL AUTO_INCREMENT,
`email` varchar(50) CHARACTER SET utf8 COLLATE utf8_unicode_ci NOT NULL,
`type` varchar(20) CHARACTER SET utf8 COLLATE utf8_unicode_ci NOT NULL,
`created_at` timestamp NULL DEFAULT NULL,
`updated_at` timestamp NULL DEFAULT NULL,
PRIMARY KEY (`id`) USING BTREE
) ENGINE = InnoDB AUTO_INCREMENT = 1 CHARACTER SET = utf8 COLLATE = utf8_unicode_ci ROW_FORMAT = DYNAMIC;

转换之后,生成如下的Schema代码:

package schema

import (
	"entgo.io/ent"
	"entgo.io/ent/dialect"
	"entgo.io/ent/schema/field"
)

// User holds the schema definition for the User entity.
type User struct {
	ent.Schema
}

// Fields of the User.
func (User) Fields() []ent.Field {

	return []ent.Field{
		field.Int32("id").SchemaType(map[string]string{
			dialect.MySQL: "int(10)UNSIGNED", // Override MySQL.
		}).NonNegative().Unique(),

		field.String("email").SchemaType(map[string]string{
			dialect.MySQL: "varchar(50)", // Override MySQL.
		}),

		field.String("type").SchemaType(map[string]string{
			dialect.MySQL: "varchar(20)", // Override MySQL.
		}),

		field.Time("created_at").SchemaType(map[string]string{
			dialect.MySQL: "timestamp", // Override MySQL.
		}).Optional(),

		field.Time("updated_at").SchemaType(map[string]string{
			dialect.MySQL: "timestamp", // Override MySQL.
		}).Optional(),
	}

}

// Edges of the User.
func (User) Edges() []ent.Edge {
	return nil
}

Mixin复用字段

在实际应用中,我们经常会碰到一些一模一样的通用字段,比如:idcreated_atupdated_at等等。

那么,我们就只能一直的复制粘贴?这会使得代码既臃肿,又显得很不优雅。

entgo能够让我们复用这些字段吗?

答案显然是,没问题。

Mixin,就是办这个事儿的。

好,我们现在需要复用时间相关的字段:created_atupdated_at,那么我们可以:

package mixin

import (
	"time"

	"entgo.io/ent"
	"entgo.io/ent/schema/field"
	"entgo.io/ent/schema/mixin"
)

type TimeMixin struct {
	mixin.Schema
}

func (TimeMixin) Fields() []ent.Field {
	return []ent.Field{
		field.Time("created_at").
			Immutable().
			Default(time.Now),

		field.Time("updated_at").
			Default(time.Now).
			UpdateDefault(time.Now),
	}
}

然后,我们就可以在Schema当中应用了,比如User,我们为它添加一个Mixin方法:

func (User) Mixin() []ent.Mixin {
	return []ent.Mixin{
		mixin.TimeMixin{},
	}
}

生成代码再看,user表就拥有这2个字段了。

生成Ent代码

internal/data/ent目录下执行:

go run -mod=mod entgo.io/ent/cmd/ent generate \
        --feature privacy \
        --feature sql/modifier \
        --feature entql \
        --feature sql/upsert \
        ./internal/data/ent/schema

或者:

ent generate \
        --feature privacy \
        --feature sql/modifier \
        --feature entql \
        --feature sql/upsert \
        ./internal/data/ent/schema

或者直接在app/admin/service路径下用Make命令:

make ent

连接数据库

SQLite3

import (
	_ "github.com/mattn/go-sqlite3"
)

client, err := ent.Open("sqlite3", "file:ent?mode=memory&cache=shared&_fk=1")
if err != nil {
	log.Fatalf("failed opening connection to sqlite: %v", err)
}
defer client.Close()

MySQL/MariaDB

  • TiDB 高度兼容MySQL 5.7 协议
  • ClickHouse 支持MySQL wire通讯协议
import (
	_ "github.com/go-sql-driver/mysql"
)

client, err := ent.Open("mysql", "<user>:<pass>@tcp(<host>:<port>)/<database>?parseTime=True")
if err != nil {
	log.Fatalf("failed opening connection to mysql: %v", err)
}
defer client.Close()

PostgreSQL

  • CockroachDB 兼容PostgreSQL协议
import (
	_ "github.com/lib/pq"
)

client, err := ent.Open("postgresql", "host=<host> port=<port> user=<user> dbname=<database> password=<pass>")
if err != nil {
	log.Fatalf("failed opening connection to postgres: %v", err)
}
defer client.Close()

Gremlin

import (
	"<project>/ent"
)

client, err := ent.Open("gremlin", "http://localhost:8182")
if err != nil {
	log.Fatalf("failed opening connection to gremlin: %v", err)
}
defer client.Close()

自定义驱动sql.DB连接

有以下两种途径可以达成:

package main

import (
    "time"

    "<your_project>/ent"
    "entgo.io/ent/dialect/sql"
)

func Open() (*ent.Client, error) {
    drv, err := sql.Open("mysql", "<mysql-dsn>")
    if err != nil {
        return nil, err
    }
    // Get the underlying sql.DB object of the driver.
    db := drv.DB()
    db.SetMaxIdleConns(10)
    db.SetMaxOpenConns(100)
    db.SetConnMaxLifetime(time.Hour)
    return ent.NewClient(ent.Driver(drv)), nil
}

第二种是:

package main

import (
    "database/sql"
    "time"

    "<your_project>/ent"
    entsql "entgo.io/ent/dialect/sql"
)

func Open() (*ent.Client, error) {
    db, err := sql.Open("mysql", "<mysql-dsn>")
    if err != nil {
        return nil, err
    }
    db.SetMaxIdleConns(10)
    db.SetMaxOpenConns(100)
    db.SetConnMaxLifetime(time.Hour)
    // Create an ent.Driver from `db`.
    drv := entsql.OpenDB("mysql", db)
    return ent.NewClient(ent.Driver(drv)), nil
}

在实际应用中,使用自定义的方法会更好,有两个原因:

  1. 可以定制数据库连接,比如使用连接池;
  2. 如果查询语句太过于复杂,可以直接使用驱动写SQL语句进行查询。

OpenAPI的使用

Kratos官方本来是有一个swagger-api的项目的(现在已经被归档了),集成的是OpenAPI v2的Swagger UI。这个项目呢,不好使,我在应用中,经常会读不出来OpenAPI的文档。还有就是OpenAPI v2不如v3功能强大。

因为没有支持,而我又需要跟前端进行沟通,所以我只好生成出OpenAPI文档之后,自行导入到ApiFox里面去使用,ApiFox呢,挺好的,支持文件和在线两种方式导入,文档管理,接口测试的功能也都很强大。但是总是要去费神导出文档,这很让人抗拒——在开发的初期,接口变动是很高频的行为——难道就不能够全自动吗?程序只要一发布,接口就自动的跟随程序一起发布出去了。

对,说的就是集成Swagger UI。

为了做到这件事,并且工程化,需要做这么几件事情:

  1. 编写Buf配置进行OpenAPI文档的生成;
  2. 把Buf生成OpenAPI文档的命令写进MakeFile里面;
  3. 利用golang的Embedding Files特性,把openapi.yaml嵌入到BFF服务程序里面;
  4. 集成Swagger UI到项目,并且读取内嵌的openapi.yaml文档。

1. 编写Buf配置进行OpenAPI文档的生成

细心的你肯定早就发现了在api/admin/service/v1下面有一个buf.openapi.gen.yaml的配置文件,这是什么配置文件呢?我现在把该配置文件放出来:

# 配置protoc生成规则
version: v1

managed:
  enabled: true
  optimize_for: SPEED

  go_package_prefix:
    default: kratos-monolithic-demo/gen/api/go
    except:
      - 'buf.build/googleapis/googleapis'
      - 'buf.build/envoyproxy/protoc-gen-validate'
      - 'buf.build/kratos/apis'
      - 'buf.build/gnostic/gnostic'
      - 'buf.build/gogo/protobuf'
      - 'buf.build/tx7do/pagination'

plugins:
  # generate openapi v2 json doc
#  - name: openapiv2
#    out: ./app/admin/service/cmd/server/assets
#    opt:
#      - json_names_for_fields=true
#      - logtostderr=true

  # generate openapi v3 yaml doc
  - name: openapi
    out: ./app/admin/service/cmd/server/assets
    opt:
      - naming=json # 命名约定。使用"proto"则直接从proto文件传递名称。默认为:json
      - depth=2 # 循环消息的递归深度,默认为:2
      - default_response=false # 添加默认响应消息。如果为“true”,则自动为使用google.rpc.Status消息的操作添加默认响应。如果您使用envoy或grpc-gateway进行转码,则非常有用,因为它们使用此类型作为默认错误响应。默认为:true。
      - enum_type=string # 枚举类型的序列化的类型。使用"string"则进行基于字符串的序列化。默认为:integer。
      - output_mode=merged # 输出文件生成模式。默认情况下,只有一个openapi.yaml文件会生成在输出文件夹。使用“source_relative”则会为每一个'[inputfile].proto'文件单独生成一个“[inputfile].openapi.yaml”文件。默认为:merged。
      - fq_schema_naming=false # Schema的命名是否加上包名,为true,则会加上包名,例如:system.service.v1.ListDictDetailResponse,否则为:ListDictDetailResponse。默认为:false。

这个配置文件是为了生成OpenAPI v3文档而编写的。

我之前尝试了把生成OpenAPI的配置放在根目录下的buf.gen.yaml,但是这产生了一个问题,因为我一个项目里面会有多个BFF服务程序,我不可能一股脑全部输出到一个openapi.yaml里面。虽然,代码生成器也可以为每一个proto各自生成一个[inputfile].openapi.yaml,但是,这样显得太乱了,而且,我没有办法用。所以,没辙,只能单独对待了——每个BFF服务独立生成一个文档。

那么,怎么使用这个配置文件呢?还是使用buf generate命令,该命令还是需要在项目根目录下执行,但是得带--template参数去引入buf.openapi.gen.yaml这个配置文件:

buf generate --path api/admin/service/v1 --template api/admin/service/v1/buf.openapi.gen.yaml

最终,在./app/admin/service/cmd/server/assets这个目录下面,将会生成出来一个文件名为openapi.yaml的文件。

2. 把Buf生成OpenAPI文档的命令写进MakeFile里面

这么长的命令,显然写入到Makefile会更加好用。

那么,我们开始编写Makefile:

# generate protobuf api go code
api:
	buf generate

# generate OpenAPI v3 docs.
openapi:
	buf generate --path api/admin/service/v1 --template api/admin/service/v1/buf.openapi.gen.yaml
	buf generate --path api/front/service/v1 --template api/front/service/v1/buf.openapi.gen.yaml

# run application
run: api openapi
	@go run ./cmd/server -conf ./configs

这样我们只需要在backend根目录下执行Make命令,就完成OpenAPI的生成了:

make openapi

3. 利用golang的Embedding Files特性,把openapi.yaml嵌入到BFF服务程序里面

OpenAPI文档是要使用Swagger UI读取,提供给前端的,那么,openapi.yaml肯定是要跟着程序走的。我一开始想过放在configs里面,虽然也是yaml文件,但是,它还是跟配置文件有本质上的差别:它其实是一个文档,而非配置。

以前写VC的时候,一些资源是可以内嵌到EXE的二进制程序里面去的。Go也可以做到,就是使用Embedding Files的特性。

文档,跟随二进制程序走,在我看来,才是最优解。下面我们就开始实现文档的内嵌。

现在,我们来到./app/admin/service/cmd/server/assets这个目录下面,我们在这个目录下面创建一个名为assets.go的代码文件:

package assets

import _ "embed"

//go:embed openapi.yaml
var OpenApiData []byte

利用go:embed注解引入openapi.yaml文档,并且读取成一个类型为[]byte名为OpenApiData的全局变量。

就这样,我们就把openapi.yaml内嵌进程序了。

4. 集成Swagger UI到项目,并且读取内嵌的openapi.yaml文档

最后,我们就可以着手集成Swagger UI了。

我为了集成Swagger UI,把Swagger UI封装了一个软件包,要使用它,我们需要安装依赖库:

go get -u github.com/tx7do/kratos-swagger-ui

在创建REST服务器的地方调用程序包里面的方法:

package server

import (
    rest "github.com/go-kratos/kratos/v2/transport/http"
    swaggerUI "github.com/tx7do/kratos-swagger-ui"

    "kratos-monolithic-demo/app/admin/service/cmd/server/assets"
)

func NewRESTServer() *rest.Server {
    srv := CreateRestServer()

    swaggerUI.RegisterSwaggerUIServerWithOption(
        srv,
        swaggerUI.WithTitle("Admin Service"),
        swaggerUI.WithMemoryData(assets.OpenApiData, "yaml"),
    )
}

到现在,我们就大功告成了!

假如BFF服务的端口是8080,那么我们可以访问下面的链接来访问Swagger UI:

http://localhost:8080/docs/

同时,openapi.yaml文件也可以在线访问到:

http://localhost:8080/docs/openapi.yaml

完整的CURD开发示例

Kratos的官方示例的结构是:databizserviceserver,我简化掉了,我把biz给摘除掉了。

我们以用户UserService为例。

Data

所有对ORM的调用,对数据库的操作都在这一层做。

package data

import (
	"context"
	"time"

	"entgo.io/ent/dialect/sql"
	"github.com/go-kratos/kratos/v2/log"
	"github.com/tx7do/go-utils/crypto"
	entgo "github.com/tx7do/go-utils/entgo/query"
	util "github.com/tx7do/go-utils/time"
	"github.com/tx7do/go-utils/trans"

	"kratos-monolithic-demo/app/admin/service/internal/data/ent"
	"kratos-monolithic-demo/app/admin/service/internal/data/ent/user"

	pagination "github.com/tx7do/kratos-bootstrap/gen/api/go/pagination/v1"
	v1 "kratos-monolithic-demo/gen/api/go/user/service/v1"
)

type UserRepo struct {
	data *Data
	log  *log.Helper
}

func NewUserRepo(data *Data, logger log.Logger) *UserRepo {
	l := log.NewHelper(log.With(logger, "module", "user/repo/admin-service"))
	return &UserRepo{
		data: data,
		log:  l,
	}
}

func (r *UserRepo) convertEntToProto(in *ent.User) *v1.User {
	if in == nil {
		return nil
	}

	var authority *v1.UserAuthority
	if in.Authority != nil {
		authority = (*v1.UserAuthority)(trans.Int32(v1.UserAuthority_value[string(*in.Authority)]))
	}

	return &v1.User{
		Id:            in.ID,
		RoleId:        in.RoleID,
		WorkId:        in.WorkID,
		OrgId:         in.OrgID,
		PositionId:    in.PositionID,
		CreatorId:     in.CreateBy,
		UserName:      in.Username,
		NickName:      in.NickName,
		RealName:      in.RealName,
		Email:         in.Email,
		Avatar:        in.Avatar,
		Phone:         in.Phone,
		Gender:        (*string)(in.Gender),
		Address:       in.Address,
		Description:   in.Description,
		Authority:     authority,
		LastLoginTime: in.LastLoginTime,
		LastLoginIp:   in.LastLoginIP,
		Status:        (*string)(in.Status),
		CreateTime:    util.TimeToTimeString(in.CreateTime),
		UpdateTime:    util.TimeToTimeString(in.UpdateTime),
		DeleteTime:    util.TimeToTimeString(in.DeleteTime),
	}
}

func (r *UserRepo) Count(ctx context.Context, whereCond []func(s *sql.Selector)) (int, error) {
	builder := r.data.db.Client().User.Query()
	if len(whereCond) != 0 {
		builder.Modify(whereCond...)
	}

	count, err := builder.Count(ctx)
	if err != nil {
		r.log.Errorf("query count failed: %s", err.Error())
	}

	return count, err
}

func (r *UserRepo) List(ctx context.Context, req *pagination.PagingRequest) (*v1.ListUserResponse, error) {
	builder := r.data.db.Client().User.Query()

	err, whereSelectors, querySelectors := entgo.BuildQuerySelector(r.data.db.Driver().Dialect(),
		req.GetQuery(), req.GetOrQuery(),
		req.GetPage(), req.GetPageSize(), req.GetNoPaging(),
		req.GetOrderBy(), user.FieldCreateTime)
	if err != nil {
		r.log.Errorf("解析条件发生错误[%s]", err.Error())
		return nil, err
	}

	if querySelectors != nil {
		builder.Modify(querySelectors...)
	}

	if req.GetFieldMask() != nil && len(req.GetFieldMask().GetPaths()) > 0 {
		builder.Select(req.GetFieldMask().GetPaths()...)
	}

	results, err := builder.All(ctx)
	if err != nil {
		r.log.Errorf("query list failed: %s", err.Error())
		return nil, err
	}

	items := make([]*v1.User, 0, len(results))
	for _, res := range results {
		item := r.convertEntToProto(res)
		items = append(items, item)
	}

	count, err := r.Count(ctx, whereSelectors)
	if err != nil {
		return nil, err
	}

	return &v1.ListUserResponse{
		Total: int32(count),
		Items: items,
	}, nil
}

func (r *UserRepo) Get(ctx context.Context, req *v1.GetUserRequest) (*v1.User, error) {
	ret, err := r.data.db.Client().User.Get(ctx, req.GetId())
	if err != nil && !ent.IsNotFound(err) {
		r.log.Errorf("query one data failed: %s", err.Error())
		return nil, err
	}

	u := r.convertEntToProto(ret)
	return u, err
}

func (r *UserRepo) Create(ctx context.Context, req *v1.CreateUserRequest) (*v1.User, error) {
	ph, err := crypto.HashPassword(req.GetPassword())
	if err != nil {
		return nil, err
	}

	builder := r.data.db.Client().User.Create().
		SetNillableUsername(req.User.UserName).
		SetNillableNickName(req.User.NickName).
		SetNillableEmail(req.User.Email).
		SetNillableRealName(req.User.RealName).
		SetNillablePhone(req.User.Phone).
		SetNillableOrgID(req.User.OrgId).
		SetNillableRoleID(req.User.RoleId).
		SetNillableWorkID(req.User.WorkId).
		SetNillablePositionID(req.User.PositionId).
		SetNillableAvatar(req.User.Avatar).
		SetNillableStatus((*user.Status)(req.User.Status)).
		SetNillableGender((*user.Gender)(req.User.Gender)).
		SetCreateBy(req.GetOperatorId()).
		SetPassword(ph).
		SetCreateTime(time.Now())

	if req.User.Authority != nil {
		builder.SetAuthority((user.Authority)(req.User.Authority.String()))
	}

	ret, err := builder.Save(ctx)
	if err != nil {
		r.log.Errorf("insert one data failed: %s", err.Error())
		return nil, err
	}

	u := r.convertEntToProto(ret)
	return u, err
}

func (r *UserRepo) Update(ctx context.Context, req *v1.UpdateUserRequest) (*v1.User, error) {
	cryptoPassword, err := crypto.HashPassword(req.GetPassword())
	if err != nil {
		return nil, err
	}

	builder := r.data.db.Client().User.UpdateOneID(req.Id).
		SetNillableNickName(req.User.NickName).
		SetNillableEmail(req.User.Email).
		SetNillableRealName(req.User.RealName).
		SetNillablePhone(req.User.Phone).
		SetNillableOrgID(req.User.OrgId).
		SetNillableRoleID(req.User.RoleId).
		SetNillableWorkID(req.User.WorkId).
		SetNillablePositionID(req.User.PositionId).
		SetNillableAvatar(req.User.Avatar).
		SetNillableStatus((*user.Status)(req.User.Status)).
		SetNillableGender((*user.Gender)(req.User.Gender)).
		SetPassword(cryptoPassword).
		SetUpdateTime(time.Now())

	if req.User.Authority != nil {
		builder.SetAuthority((user.Authority)(req.User.Authority.String()))
	}

	ret, err := builder.Save(ctx)
	if err != nil {
		r.log.Errorf("update one data failed: %s", err.Error())
		return nil, err
	}

	u := r.convertEntToProto(ret)
	return u, err
}

func (r *UserRepo) Delete(ctx context.Context, req *v1.DeleteUserRequest) (bool, error) {
	err := r.data.db.Client().User.
		DeleteOneID(req.GetId()).
		Exec(ctx)
	if err != nil {
		r.log.Errorf("delete one data failed: %s", err.Error())
	}

	return err == nil, err
}

增删改,这些都没有什么特别的。

列表查询,有点特别,需要特别的说明一下,我提取了一个通用的分页请求:

字段名类型格式字段描述示例备注
pagenumber当前页码默认为1,最小值为1
pageSizenumber每页的行数默认为10,最小值为1
querystringjson objectjson object arrayAND过滤条件json字符串: {"field1":"val1","field2":"val2"} 或者[{"field1":"val1"},{"field1":"val2"},{"field2":"val2"}]maparray都支持,当需要同字段名,不同值的情况下,请使用array。具体规则请见:过滤规则
orstringjson objectjson object arrayOR过滤条件同 AND过滤条件
orderBystringjson string array排序条件json字符串:["-create_time", "type"]json的string array,字段名前加-是为降序,不加为升序。具体规则请见:排序规则
nopagingboolean是否不分页此字段为true时,pagepageSize字段的传入将无效用。
fieldMaskstringjson string array字段掩码此字段是SELECT条件,为空的时候是为*

Service

这一层主要是处理REST的请求和返回信息。

package service

import (
	"context"

	"github.com/go-kratos/kratos/v2/log"
	"github.com/tx7do/go-utils/trans"
	"google.golang.org/protobuf/types/known/emptypb"

	"kratos-monolithic-demo/app/admin/service/internal/data"

	adminV1 "kratos-monolithic-demo/gen/api/go/admin/service/v1"
	userV1 "kratos-monolithic-demo/gen/api/go/user/service/v1"

	pagination "github.com/tx7do/kratos-bootstrap/gen/api/go/pagination/v1"

	"kratos-monolithic-demo/pkg/middleware/auth"
)

type UserService struct {
	adminV1.UserServiceHTTPServer

	uc  *data.UserRepo
	log *log.Helper
}

func NewUserService(logger log.Logger, uc *data.UserRepo) *UserService {
	l := log.NewHelper(log.With(logger, "module", "user/service/admin-service"))
	return &UserService{
		log: l,
		uc:  uc,
	}
}

func (s *UserService) ListUser(ctx context.Context, req *pagination.PagingRequest) (*userV1.ListUserResponse, error) {
	return s.uc.List(ctx, req)
}

func (s *UserService) GetUser(ctx context.Context, req *userV1.GetUserRequest) (*userV1.User, error) {
	return s.uc.Get(ctx, req)
}

func (s *UserService) CreateUser(ctx context.Context, req *userV1.CreateUserRequest) (*userV1.User, error) {
	authInfo, err := auth.FromContext(ctx)
	if err != nil {
		s.log.Errorf("[%d] 用户认证失败[%s]", authInfo, err.Error())
		return nil, adminV1.ErrorAccessForbidden("用户认证失败")
	}

	if req.User == nil {
		return nil, adminV1.ErrorBadRequest("错误的参数")
	}

	req.OperatorId = authInfo.UserId
	req.User.CreatorId = trans.Uint32(authInfo.UserId)
	if req.User.Authority == nil {
		req.User.Authority = userV1.UserAuthority_CUSTOMER_USER.Enum()
	}

	ret, err := s.uc.Create(ctx, req)
	return ret, err
}

func (s *UserService) UpdateUser(ctx context.Context, req *userV1.UpdateUserRequest) (*userV1.User, error) {
	authInfo, err := auth.FromContext(ctx)
	if err != nil {
		s.log.Errorf("[%d] 用户认证失败[%s]", authInfo, err.Error())
		return nil, adminV1.ErrorAccessForbidden("用户认证失败")
	}

	if req.User == nil {
		return nil, adminV1.ErrorBadRequest("错误的参数")
	}

	req.OperatorId = authInfo.UserId

	ret, err := s.uc.Update(ctx, req)
	return ret, err
}

func (s *UserService) DeleteUser(ctx context.Context, req *userV1.DeleteUserRequest) (*emptypb.Empty, error) {
	authInfo, err := auth.FromContext(ctx)
	if err != nil {
		s.log.Errorf("[%d] 用户认证失败[%s]", authInfo, err.Error())
		return nil, adminV1.ErrorAccessForbidden("用户认证失败")
	}

	req.OperatorId = authInfo.UserId

	_, err = s.uc.Delete(ctx, req)

	return &emptypb.Empty{}, err
}

Server

在这一层创建REST服务器,Service的服务也在这里注册进去。

package server

import (
	"context"

	"github.com/go-kratos/kratos/v2/log"
	"github.com/go-kratos/kratos/v2/middleware"
	"github.com/go-kratos/kratos/v2/middleware/logging"
	"github.com/go-kratos/kratos/v2/middleware/selector"
	"github.com/go-kratos/kratos/v2/transport/http"

	bootstrap "github.com/tx7do/kratos-bootstrap"
	conf "github.com/tx7do/kratos-bootstrap/gen/api/go/conf/v1"

	"kratos-monolithic-demo/app/admin/service/cmd/server/assets"
	"kratos-monolithic-demo/app/admin/service/internal/service"

	adminV1 "kratos-monolithic-demo/gen/api/go/admin/service/v1"
	"kratos-monolithic-demo/pkg/middleware/auth"
)

// NewRESTServer new an HTTP server.
func NewRESTServer(
	cfg *conf.Bootstrap, logger log.Logger,
	userSvc *service.UserService,
) *http.Server {
	srv := bootstrap.CreateRestServer(cfg)
	adminV1.RegisterUserServiceHTTPServer(srv, userSvc)
	return srv
}

用户登陆认证

登陆的协议使用OAuth 2.0的密码授权(Password Grant)方式,协议proto定义如下:

syntax = "proto3";

package admin.service.v1;

// 用户后台登陆认证服务
service AuthenticationService {
  // 登陆
  rpc Login (LoginRequest) returns (LoginResponse) {
    option (google.api.http) = {
      post: "/admin/v1/login"
      body: "*"
    };
  }

  // 登出
  rpc Logout (LogoutRequest) returns (google.protobuf.Empty) {
    option (google.api.http) = {
      post: "/admin/v1/logout"
      body: "*"
    };
  }

  // 刷新认证令牌
  rpc RefreshToken (RefreshTokenRequest) returns (LoginResponse) {
    option (google.api.http) = {
      post: "/admin/v1/refresh_token"
      body: "*"
    };
  }
}

// 用户后台登陆 - 请求
message LoginRequest {
  string username = 1; // 用户名,必选项。
  string password = 2; // 用户的密码,必选项。
  string grand_type = 3; // 授权类型,此处的值固定为"password",必选项。
  optional string scope = 4; // 以空格分隔的范围列表。如果未提供,scope则授权任何范围,默认为空列表。
}

// 用户后台登陆 - 回应
message LoginResponse {
  string access_token = 1; // 访问令牌,必选项。
  string refresh_token = 2; // 更新令牌,用来获取下一次的访问令牌,可选项。
  string token_type = 3; // 令牌类型,该值大小写不敏感,必选项,可以是bearer类型或mac类型。
  int64 expires_in = 4; // 过期时间,单位为秒。如果省略该参数,必须其他方式设置过期时间。
}

// 用户刷新令牌 - 请求
message RefreshTokenRequest {
  string refresh_token = 1; // 更新令牌,用来获取下一次的访问令牌,必选项。
  string grand_type = 2; // 授权类型,此处的值固定为"password",必选项。
  optional string scope = 3; // 以空格分隔的范围列表。如果未提供,scope则授权任何范围,默认为空列表。
}

使用标准化的OAuth 2.0协议,有一个好处就是,别的系统可以无缝对接用户登陆认证。

登陆的令牌,我们使用JWT算法生成。刷新的令牌,使用UUIDv4算法生成,生成的代码如下:

import (
	authnEngine "github.com/tx7do/kratos-authn/engine"
)

type UserTokenRepo struct {
	data          *Data
	log           *log.Helper
	authenticator authnEngine.Authenticator
}

// createAccessJwtToken 生成JWT访问令牌
func (r *UserTokenRepo) createAccessJwtToken(_ string, userId uint32) string {
	principal := authn.AuthClaims{
		Subject: strconv.FormatUint(uint64(userId), 10),
		Scopes:  make(authn.ScopeSet),
	}

	signedToken, err := r.authenticator.CreateIdentity(principal)
	if err != nil {
		return ""
	}

	return signedToken
}

// createRefreshToken 生成刷新令牌
func (r *UserTokenRepo) createRefreshToken() string {
	strUUID, _ := uuid.NewV4()
	return strUUID.String()
}

JWT令牌的生成和验证的具体算法,我都已经封装在了github.com/tx7do/kratos-authn软件包里面。

JWT令牌的验证,以中间件的方式提供:

import (
	"context"

	"github.com/go-kratos/kratos/v2/log"
	"github.com/go-kratos/kratos/v2/middleware"
	"github.com/go-kratos/kratos/v2/middleware/logging"
	"github.com/go-kratos/kratos/v2/middleware/selector"
	"github.com/go-kratos/kratos/v2/transport/http"

	authnEngine "github.com/tx7do/kratos-authn/engine"
	authn "github.com/tx7do/kratos-authn/middleware"
)

// NewWhiteListMatcher 创建jwt白名单
func newRestWhiteListMatcher() selector.MatchFunc {
	whiteList := make(map[string]bool)
	whiteList[adminV1.OperationAuthenticationServiceLogin] = true
	return func(ctx context.Context, operation string) bool {
		if _, ok := whiteList[operation]; ok {
			return false
		}
		return true
	}
}

// NewRESTServer new an HTTP server.
func NewRESTServer(
	cfg *conf.Bootstrap, logger log.Logger,
	authenticator authnEngine.Authenticator,
) *http.Server {
	srv := bootstrap.CreateRestServer(cfg, selector.Server(authn.Server(authenticator)).Match(newRestWhiteListMatcher()).Build())
	return srv
}

现在,只要不是在白名单里面的接口,都将接受JWT令牌的验证,无法通过验证的请求,都将无法访问该接口。

结语

当你学习到了这些知识点之后,你会发现上手使用Kratos微服务框架所涉及的知识点也并不繁杂,学习的门槛还是很低的。基于本文中的demo项目,我相信你可以很快的上手写项目了。

参考资料

转载自:https://juejin.cn/post/7297080018655641626
评论
请登录