使用新版Golang1.18多段构建制作docker镜像的踩坑经历

使用新版Golang1.18多段构建制作docker镜像的踩坑经历,第1张

使用多段构建制作docker镜像时,我原先的dockerfile如下:

结果构建时报错了,报错如下,看信息是拉取源码中的第三方依赖包glog报错:

go: gomod file not found in current directory or any parent directory

'go get' is no longer supported outside a module

To build and install a command, use 'go install' with a version,

like 'go install examplecom/cmd@latest '

For more information, see https://golangorg/doc/go-get-install-deprecation

or run 'go help get' or 'go help install'

查了相关的错误信息,说是go get已经在golang的117版本停用了,必须使用go install。其实这里有个坑,看官方文档如下:

Starting in Go 117, installing executables with go get is deprecated go install may be used instead

In Go 118, go get will no longer build packages; it will only be used to add, update, or remove dependencies in gomod Specifically, go get will always act as if the -d flag were enabled

httpServergo:12:2: no required module provides package githubcom/golang/glog : gomod file not found in current directory or any parent directory; see 'go help modules'

其实说的是go get只是不用来build了,他只能在gomod中做依赖包相关的操作。go install是直接安装package,这里使用go install明显不对。

掌握了了以上信息,就可以针对性的解决了。我之前的dockerfile中可以添加一下gomod的初始化操作,新的file如下:

问题解决,构建镜像成功了。

随着PHP有着越来越深入的了解,以及遇到越来越多的不同业务时,使用PHP总会让我有一种莫名的无力感。当然,并不是我一个人在使用PHP的时候遇到了问题。事实上,每个略微有一些经验,接触过一些需求的人都会有同样的困惑。各种配合LAMP(或者LNMP?)架构的后端技术也因此被发明或被发现,进而整合到PHP的开发的技术体系中。从简单的Memcached作为数据中转,cron后端定时处理;到Gearman、RabbitMQ这些队列神器;最近Laruence甚至封装了利用libcurl的异步特性实现并发RPC调用的yar扩展。几乎整个社区都在寻找PHP的摩西之路。好吧,说了一大堆,回归主题。之前我写了一篇英文练笔《WhyyouPHPguysshouldlearnGolang》,获得不少国际友人的关注。排除拼写和语法被他们诟病外,主要是有许多朋友觉得我没把事情说清楚。所以这里我用母语重新聊聊这个事情,只是这些国际友人什么时候能学会阅读中文呢?;)Go或者Golang,是由Google支持的快速、一致、稳定的,有活跃的社区支持的开源编程语言。越来越多的应用选择使用Golang进行构建。虽然RobPike说“…我们希望C++程序员来了解Go并作为一个可选的语言…”,不过我真得认为:PHPer应当学习Golang!接下来我们就来谈谈原因。容易学习PHP相当容易学习。Golang也是!在这点上,一群大老外对我的观点进行了猛烈的抨击。他们认为我羞辱了PHPer,说得好像只有简单的东西PHPer才能学会一样。但是,这难道不是事实吗?或者换个说法:像我一样的喜欢PHP的人,或多或少都会更喜欢简单的东西。PHP的语法接近C族编程语言(C/C++/Java等等)。如果有这些语言的经验,在第一次遇到PHP的时候立刻就能开始上手编写代码。在我看来,编写PHP代码或许更加考验程序员的记忆力,而不是智力(当你面对各种不同风格的函数定义、各种扩展的特殊约定时,你一定会相当认同我的观点)。Golang同样是一个C族编程语言。呃,或者有一些不同吧。例如关键字“for”,功能上和PHP的接近,但是没有括号。条件语句“if”同样无需括号。可以阅读EffectiveGo了解内容。Golang只有3025个关键字和47个操作符号、分隔符号或其他特殊标记。记住这些标记确实不需要什么特别的努力。精巧的类型系统相当容易使用。实用的,具有方法的结构体类型代替了笨重的对象系统。接口的设计是Golang中我最喜欢的部分。当完成了《Go指南》的学习之后,利用PHP积累的经验,立刻就可以开始使用Golang处理一些简单的任务。容易使用PHP脚本是由SAPI组件进行解析执行的,如Web服务器模块、PHP-FPM或者CLI。部署PHP所需要的全部东西就是一个SAPI环境。配置这个环境对于新手来说可能是学习PHP过程中最为困难的部分。所有的Golang代码会编译和链接为本地码。所以除了编译环境,执行时无需再为其进行任何特别的部署。对比PHP环境的配置,这要简单很多。你真得认为配置PHP环境很复杂吗?我不觉得,真的!而配置Golang编译环境比那还要简单点。我确信已经有大量的Golang相关的书籍、文章介绍过如何进行编译环境的配置了。为了更加清晰,我这里梳理一下思路。有三个步骤需要处理:下载Golang的源代码;根据《[翻译]Go环境设置》的提示设置环境变量;运行源代码src目录中的allbash。或者一步到位:使用二进制包进行安装。然后就会得到一个叫做“go”的工具集合。使用“go”工具和使用PHP的CLI工具一样简单。《[翻译]go工具》对此进行了详细的解释。PHP的迷思如果一个编程语言容易学习和使用,我们是不是就应当学习它呢?有许多容易学习和使用的编程语言。难道要把它们都学一遍?答案是显然的:NO!但是呢?只是因为它很酷!是的,我在开玩笑,但是这是真的。无论如何先从PHP自身谈起吧。PHP“原本是为了开发动态的Web页面而设计的服务器端通用语言(Wikipedia)”。PHP一个重要的特性就是可以嵌入到HMTL中。代码编写在“”标签内;HTML写在标签外。它有一个强大的扩展系统。扩展使用C调用ZendAPI编写。数据的处理实际上要利用这些扩展完成。在我看来,PHP是世界上最好的模板语言。但是当积累了一些PHP的经验,并且开始面对一些更加复杂的Web应用时,你一定会对PHP产生一种无力的感觉。它没有内建的并行机制,没有线程、进程(你真得认为那个简陋的进程控制可以不加改造的用在高并发的生产环境?),或者其他某“程”。一个慢数据源可以阻塞整个页面的处理。消息队列、缓存、代理……系统开始不仅仅是PHP这么单纯,还包括了许多服务和系统组件。这时,PHP只处理很少的业务逻辑,成为真正的模板语言了。PHPer们总是在寻找解决这一问题的法,如“PHPmultithread”或者PHPRPC并发框架。我很难说哪种会更好一些。不过我肯定你会需要选择一些编程语言用于后端工作的开发。就我自己的经验,我尝试过C(一直在和malloc/free进行搏斗)/Java(陷入到了jar地狱中)/Python(从来没能做到Pythonic不说,还总是在错误的类型中打转)……如果想要获得性能,就得同内存管理进行搏斗;如果用GC,就得部署和调优VM;当获得便利性的时候,同时也是走在刀尖上,一个小错误就引起巨大的灾难……每个都有优势,同样每个都有问题。好吧!现在回到Golang!Golang有GC,无需关心内存管理(或者可以用较少的精力去关注它)。代码被编译为本地码,因此“cp”和“mv”就是部署Golang编写的应用所需要的全部工具。噢,我刚才已经说过了,Golang是一个具有静态类型系统的编译语言。所以你没有机会弄乱变量的类型。当然,PHPer应该学习Golang的一个重要原因是“转到Go是因为他们并未放弃太多的表达能力,但是获得了性能,并且与并发共舞(RobPike)”。《WhyNotGo(英文)》对此进行了深入的分析。我可以分享一些我的经验:有一个Gearman的worker用于处理后端数据。PHP通过其API连接到Gearman的JobServer向worker发起请求。最初worker是使用python编写的(还有更加原始的版本,PHP的,但是你能想像它工作起来……唉,不说了……)。这个版本有许多的问题(是我们自己的问题,不关Python的事),但是至少它能工作。后来用Golang重写了这个worker。为此我开发了Golang的GearmanAPI,并使用ZendAPI编写了一个在Golang中执行PHP脚本的包。然后将它们放在一起:一个可以执行PHP的Gearmanworker。它已经工作了一段时间了,看起来还不错!哦,受到Yar的启发,这里还有一个Golang编写的RPC合并器,用来合并PHP脚本中的RPC调用。现在还是个玩具,不过或许日后能用得着。这其实是将Golang的channel当作消息队列来用。我在《Golang:有趣的channel应用》中对此有一些说明。世界真美好啊。谢谢Golang!无论如何,大多数PHPer在进行后端开发的时候都会需要学习一些其他语言。如果你正在寻找,或者已经尝试了一些其他语言。为什么不来试试Golang?它真得可以让你的生活更加轻松和快乐。让你可以有的时间陪伴你的家人和朋友,吃你爱吃的东西,去你想去的地方。貌似我还是没说清楚啊?好吧,没关系,在下个月的中国软件开发者大会上再跟大家就这个话题做一个探讨吧。

解决之道:在系统设计时,避免使用管道chan传递主业务数据,避免将业务流程处理流程分割到对个Go程中执行,这样做减少chan传输耗时,和Go程调度耗时,性能会有很大的提升。

案例分析:nsq和nats都是实时消息队列,nsq在客户端端和服务端大量使用chan转发消息,导致性能不佳,只有100,000/s;而nats服务端在分发消息流程中,没有使用chan,只在客户端接收时使用chan,性能可达到1,000,000/s。

在 gRPC 里客户端应用可以像调用本地对象一样直接调用另一台不同的机器上服务端 应用的方法,使得您能够更容易地创建分布式应用和服务。与许多 RPC 系统类似,gRPC 也是基于以下理念:定义一个服务,指定其能够被远程调用的方法(包含参数和返回类型)。在服务端实现这个接口,并运行一个 gRPC 服务器来处理客户端调用。在客户端拥有一个存根能够像服务端一样的方法。

gRPC 客户端和服务端可以在多种环境中运行和交互 - 从 google 内部的服务器到你自己的笔记本,并且可以用任何 gRPC 支持的语言来编写。所以,你可以很容易地用 Java 创建一个 gRPC 服务端,用 Go、Python、Ruby 来创建客户端。此外,Google 最新 API 将有 gRPC 版本的接口,使你很容易地将 Google 的功能集成到你的应用里。

gRPC 默认使用 protocol buffers,这是 Google 开源的一套成熟的结构数据序列化机制(当然也可以使用其他数据格式如 JSON)。名叫 proto3 的新风格的 protocol buffers,它拥有轻量简化的语法、一些有用的新功能,并且支持更多新语言。当前针对 Java 和 C++ 发布了 beta 版本,针对 JavaNano(即 Android Java)发布 alpha 版本,在protocol buffers Github 源码库里有 Ruby 支持, 在golang/protobuf Github 源码库里还有针对 Go 语言的生成器, 对更多语言的支持正在开发中。

有了 gRPC, 我们可以一次性的在一个 proto 文件中定义服务并使用任何支持它的语言去实现客户端和服务器,反过来,它们可以在各种环境中,从Google的服务器到你自己的平板电脑—— gRPC 帮你解决了不同语言及环境间通信的复杂性使用 protocol buffers 还能获得其他好处,包括高效的序列号,简单的 IDL 以及容易进行接口更新。

现在让我们来仔细了解一下当 gRPC 客户端调用 gRPC 服务端的方法时到底发生了什么。我们不究其实现细节,关于实现细节的部分,你可以在我们的特定语言页面里找到更为详尽的内容。

首先我们来了解一下最简单的 RPC 形式:客户端发出单个请求,获得单个响应。

服务端流式 RPC 除了在得到客户端请求信息后发送回一个应答流之外,与我们的简单例子一样。在发送完所有应答后,服务端的状态详情(状态码和可选的状态信息)和可选的跟踪元数据被发送回客户端,以此来完成服务端的工作。客户端在接收到所有服务端的应答后也完成了工作。

客户端流式 RPC 也基本与我们的简单例子一样,区别在于客户端通过发送一个请求流给服务端,取代了原先发送的单个请求。服务端通常(但并不必须)会在接收到客户端所有的请求后发送回一个应答,其中附带有它的状态详情和可选的跟踪数据。

双向流式 RPC ,调用由客户端调用方法来初始化,而服务端则接收到客户端的元数据,方法名和截止时间。服务端可以选择发送回它的初始元数据或等待客户端发送请求。 下一步怎样发展取决于应用,因为客户端和服务端能在任意顺序上读写 - 这些流的操作是完全独立的。例如服务端可以一直等直到它接收到所有客户端的消息才写应答,或者服务端和客户端可以像"乒乓球"一样:服务端后得到一个请求就回送一个应答,接着客户端根据应答来发送另一个请求,以此类推。

通过运行下面的命令克隆并安装grpc-go代码库:

下载protobuf源码包

安装golang-protobuf

第一步使用 protocol buffers去定义 gRPC service 和方法 request 以及 response 的类型。

要定义一个服务,必须在proto 文件中指定 service:

然后在服务中定义 rpc 方法,指定请求的和响应类型,gRPC 允许定义4种类型的 service 方法。

服务proto文件如下所示:

个人觉得golang十分适合进行网游服务器端开发,写下这篇文章总结一下。从网游的角度看:要成功的运营一款网游,很大程度上依赖于玩家自发形成的社区。只有玩家自发形成一个稳定的生态系统,游戏才能持续下去,避免鬼城的出现。而这就需要多次大量导入用户,在同时在线用户量达到某个临界点的时候,才有可能完成。因此,多人同时在线十分有必要。再来看网游的常见玩法,除了排行榜这类统计和数据汇总的功能外,基本没有需要大量CPU时间的应用。以前的项目里,即时战斗产生的各种伤害计算对CPU的消耗也不大。玩家要完成一次操作,需要通过客户端-服务器端-客户端这样一个来回,为了获得高响应速度,满足玩家体验,服务器端的处理也不能占用太多时间。所以,每次请求对应的CPU占用是比较小的。网游的IO主要分两个方面,一个是网络IO,一个是磁盘IO。网络IO方面,可以分成美术资源的IO和游戏逻辑指令的IO,这里主要分析游戏逻辑的IO。游戏逻辑的IO跟CPU占用的情况相似,每次请求的字节数很小,但由于多人同时在线,因此并发数相当高。另外,地图信息的广播也会带来比较频繁的网络通信。磁盘IO方面,主要是游戏数据的保存。采用不同的数据库,会有比较大的区别。以前的项目里,就经历了从MySQL转向MongoDB这种内存数据库的过程,磁盘IO不再是瓶颈。总体来说,还是用内存做一级缓冲,避免大量小数据块读写的方案。针对网游的这些特点,golang的语言特性十分适合开发游戏服务器端。首先,go语言提供goroutine机制作为原生的并发机制。每个goroutine所需的内存很少,实际应用中可以启动大量的goroutine对并发连接进行响应。goroutine与gevent中的greenlet很相像,遇到IO阻塞的时候,调度器就会自动切换到另一个goroutine执行,保证CPU不会因为IO而发生等待。而goroutine与gevent相比,没有了python底层的GIL限制,就不需要利用多进程来榨取多核机器的性能了。通过设置最大线程数,可以控制go所启动的线程,每个线程执行一个goroutine,让CPU满负载运行。同时,go语言为goroutine提供了独到的通信机制channel。channel发生读写的时候,也会挂起当前操作channel的goroutine,是一种同步阻塞通信。这样既达到了通信的目的,又实现同步,用CSP模型的观点看,并发模型就是通过一组进程和进程间的事件触发解决任务的。虽然说,主流的编程语言之间,只要是图灵完备的,他们就都能实现相同的功能。但go语言提供的这种协程间通信机制,十分优雅地揭示了协程通信的本质,避免了以往锁的显式使用带给程序员的心理负担,确是一大优势。进行网游开发的程序员,可以将游戏逻辑按照单线程阻塞式的写,不需要额外考虑线程调度的问题,以及线程间数据依赖的问题。因为,线程间的channel通信,已经表达了线程间的数据依赖关系了,而go的调度器会给予妥善的处理。另外,go语言提供的gc机制,以及对指针的保护式使用,可以大大减轻程序员的开发压力,提高开发效率。展望未来,我期待go语言社区能够提供更多的goroutine间的隔离机制。个人十分推崇erlang社区的脆崩哲学,推动应用发生预期外行为时,尽早崩溃,再fork出新进程处理新的请求。对于协程机制,需要由程序员保证执行的函数不会发生死循环,导致线程卡死。

DABAN RP主题是一个优秀的主题,极致后台体验,无插件,集成会员系统
网站模板库 » 使用新版Golang1.18多段构建制作docker镜像的踩坑经历

0条评论

发表评论

提供最优质的资源集合

立即查看 了解详情