沃特福德镇(Waterford Township)于1834年正式组织,位于美国密歇根州奥克兰县中心,拥有72,000多名居民。它以其34个湖泊而闻名,赢得了其名称。
但是,在市政公用事业内,沃特福德以其在水/废水管理方面的领导和持续创新而闻名。沃特福德(Waterford)拥有360英里的水主和355英里的卫生下水道,这并不是一件小事。公共工程部(DPW)运营和维护19条生产井,3个储罐,11个处理厂和63个下水道提升站。
为了运行所有这些,他们几年前投资于整合核心应用程序,包括地理信息系统(GIS),资产管理系统(AMS),企业内容管理(ECM)以及监督控制和数据获取(SCADA),它们都共享数据以实现无缝操作。
多年来,该系统具有很大的价值,但没有永远持续下去。
是时候升级了
2017年,沃特福德DPW的公共工程总监罗素·威廉姆斯(Russell Williams)和工程局长弗兰克·费舍尔(Frank Fisher)开始了一个常规的维护项目,以升级其核心SCADA基础设施。当时,他们使用串行投票程序通过通过许可射频(RF)发射机进行通信的RTU网络(远程遥测单元)从其许多站点请求更新。
一年后,他们开始用Opto 22 SNAP SNAP PAC S2控制器和通过私人Verizon网络通信的Digi 4G LTE工业蜂窝调制解调器代替这些RTU和收音机。
但是,同年,他们参加了一次会议,宣布发行Opo 22凹槽Epic Edge可编程的工业控制器,它改变了他们计划的范围。正如拉斯告诉它的那样:“我们在回去的骑行中谈论它,‘如果这样做应该做的事情,那么它就改变了一切的整个布局。'''
消除系统性限制
他们对史诗对MQTT Sparkplug出版的本地支持可以帮助他们消除一些长期存在的系统局限性的想法感到特别兴奋。他们的网络上有超过90个控制器,他们使用的投票机制与无线网络的有限带宽相结合,这意味着每个站点的数据只能每3-5分钟更新一次。
有时,电梯站会在投票周期之间短暂运行,在报告中造成差距,并抑制操作员准确地检测出问题的能力,直到警报最终通过。对于每个I/O点,它们添加到系统中,此延迟越来越糟。
沃特福德DPW的旧基础设施依靠RTU和RF发射器网络,该网络与办公室的SCADA工作站通信。
他们似乎很清楚,MQTT(以前是IBM的MQ遥测运输,现在以开源为开源)可以大大降低带宽的使用情况并确保提供重要的系统操作。这是因为与循环投票相反,MQTT遵循严格的逐个报告出版规则。与其等待由中央服务器命令(在MQTT列表中称为经纪人),而是在且仅当受监视值发生更改时,就自己单独发送数据,而不是等待。
拉斯解释说:“我们有许多升降机将花费他们大部分时间坐着,所以为什么要一直传输数据?”
由于不依赖中央投票计划,他们看到了消除系统性瓶颈和潜在失败点的可能性。实际上,MQTT的SparkPlug有效负载格式通过启用Edge设备,例如凹槽在网络中断的情况下,史诗般的存储更新在本地存储,并在恢复连接时将其转发给经纪人作为历史标签。
“看起来太简单了。您必须质疑它。” Russ回忆道。
但是,愿意测试该前提,Russ和Frank在夏季购买了三个史诗般的演奏,很快他们就拥有了证据。
“我们断开了一个控制器的连接,并且在毫秒内报告了失败。确实很容易:更改变量,然后在经纪人中出现,然后在您的手机上显示。”弗兰克说。
“这就是那么简单!”确认拉斯。
沃特福德DPW的升降机控制面板之一的比较,显示了旧的RTU布局和新布局凹槽EPIC控制器和Digi调制解调器。
从概念证明到生产
为了帮助他们执行自己的愿景,沃特福德DPW聘请了感知控制,基于密歇根州的系统集成商和Opto 22的长期合作伙伴,专门研究水/废水,食品和食品和石油和天然气工业的工业和过程控制应用程序。但是,根据Pipsive的软件工程师凯文·芬克勒(Kevin Finkler)表示,首次建立MQTT系统是一个学习曲线。
凯文说:“这是我第一次做一些不严格的客户服务器的事情。”“主题系统以及如何订阅特定主题是完全不同的……。当您第一次跳入MQTT时,您了解客户端连接到经纪人,但是您如何实际发送数据?…您可以浏览经纪人并在那里看到它,但是了解它的运作方式很难。”
MQTT的Publish-Subscriber沟通模型与传统工业协议的不同之处在于一些关键的方式:
- 现场设备连接起源于设备,而不是代理。
- 每个现场设备仅连接到经纪人,无论其数据需要去哪里。
- 在使用SparkPlug有效负载时,每个设备在建立与经纪人的连接时,都会发布(发送)其可用数据项的列表,称为主题。
- 其他MQTT客户端也可以连接到经纪人,查看可用主题,然后在现场设备发布时订阅这些主题的(请求)更新。
- 当现场设备发布更新时,经纪人将其转发给所有订阅客户端。
可以理解的是,沃特福德面临的第一个挑战是将这种新的沟通模型融入其现有的SCADA系统,但最终被证明是一个非生命者。当时,沃特福德(Waterford)有两个工作站运行了旧版本的GE Proficy Ifix,该系统根本缺乏使用MQTT协议的能力。
在尝试了一些流行的SCADA软件包之后,他们决定通过ActuctiveAutomation®点火,因为它提供了非常紧密的MQTT集成,包括充当MQTT经纪人的能力。即使了解MQTT模型最初花了一些工作,但一旦拥有正确的工具,就可以简单地建立沟通。
凯文说:“这是自动发生的。”“您基本上定义了一些(点火)的参数来设置代理。每个史诗般的设备都很简单。您只需将其指向经纪人,然后开始发送标签。”
毕竟,没有“发送数据”命令担心。
弗兰克·费舍尔(Frank Fisher)补充说:“我喜欢这双方都接受了MQTT。”“这使连接无缝。”
沃特福德DPW的现代化基础设施发布了数据凹槽在4G LTE蜂窝网络上使用云托管点火SCADA和MQTT经纪人的Epic控制器。
深入建立防御
早些时候,当弗兰克(Frank)寻找建造沃特福德(Waterford)新的SCADA基础设施的组件时,他试图在亚马逊网络服务(AWS)上托管MQTT经纪人。随着新的蜂窝网络已经构建,它似乎是利用云计算以提高容错和可扩展性的机会。
成功测试了这个概念后,当沃特福德决定将其作为经纪人和SCADA命中时,他们决定将新系统直接部署在AWS上。完成此操作后,凯文(Kevin)和弗兰克(Frank)开始建立确保新基础设施的机制。
首先,弗兰克在AWS上配置了防火墙,以接受他的流量凹槽沃特福德(Waterford)和感知办公室中的史诗控制者和特定的点火客户。电池调制解调器上的防火墙还配置为仅接受受信任的IP。
然后,弗兰克(Frank)在每个Epic上安装了客户端SSL证书,因此IGNITION可以对连接进行身份验证和加密,从而防止可能暴露数据或允许未经授权控制的中间攻击。
每个授权用户都需要创建强密码以访问任何凹槽系统中的EPIC控制器或点火客户端,但是除此之外,还会在整个系统中跟踪和报告每个用户登录名。
弗兰克(Frank)和凯文(Kevin)甚至将物理站点的安全性集成到了点火中。每个举升站都用外门(在锁和钥匙)下固定,门上的物理开关连接到当地史诗般的史诗。点火器监视开关状态以检测某人何时进入,并且如果未在特定时间内注册用户登录,则该特定房间的访问权限,则点火开关会生成全局警报。
沃特福德的新升降机控制屏幕之一。车站安全面板显示在左中央。
投资回报
在其所有63个污水升降机和6个干净的水站点完成升级后,新的凹槽Epic-Dimnition MQTT基础架构已将现场更新从多分钟周期减少到次秒驱动的出版物。随着这种速度,沃特福德再也不会错过系统动作或警报通知了。
凯文认为,“超低潜伏期可能是最大的好处。控制器和点火网关之间的延迟小于200 ms。这是在整个蜂窝网络上,所有[史诗]都通信到云中的服务器。”
实际上,对于大多数网站,它接近50毫秒。
沃特福德的新基础设施将数据更新的速度从几分钟提高到不到一秒钟。
由于MQTT的逐个报告行为,与模拟I/O结合了每个凹槽史诗般的新基础设施也减少了带宽的消费。这种减少使沃特福德发布比以前更多的数据。他们可以访问通信和控制器诊断,例如更新延迟,连接时间戳,消息大小,固件版本等,而在旧系统中根本无法使用。
对运营商的好处
点火开关利用了所有这些数据的优势,具有更友好的外观和感觉,突出了每个升降机中的湿井级别,运行时间和泵流量总数等关键元素,因此操作员可以快速发现问题指示器。
使用启用细胞的平板电脑,操作员可以通过IGNITION的手机就绪HMI从任何地方保持连接。
沃特福德的新点火概述屏幕清楚地显示了系统中的任何问题。
可靠性提高
沃特福德的基于云的基础设施也可以提高灵活性和可靠性。感知能够在空中执行控制器更新,这减少了旅行时间,并使他们能够在整个Covid-19-19大流行中继续进行项目开发。如果在30分钟内托管新的SCADA服务器的俄亥俄州数据中心曾经有一个问题,那么弗兰克可以将整个系统启动并运行,并在美国俄勒冈州俄勒冈州数据中心的同一家服务器的快照上运行。随着时间的流逝,他可能会设置完整的服务器冗余。
拉斯·威廉姆斯(Russ Williams)认识到沃特福德(Waterford)正在领导公共部门的数字化转型。
他说:“我不久前就接受过FEMA培训,他们坚决没有在您的SCADA系统上建立互联网连接,”他说,“但是我们所看的一切都比我们[办公室所能做到的都更安全因为然后]您使建造单个失败点。”
实际上,最近在公共工程办公室的互联网中断提供了对他们的新系统的意外测试,该系统一直在不中断。
“我们只失去了旧系统,”弗兰克说。“当然,我们的内部内容无法伸出援手,但是我们的iPad可以通过Verizon连接……我能够与您取得联系。在这种情况下,旧系统无法发送警报,因为它取决于本地连接。新系统甚至没有注意到或关心,因为它没有在本地运行任何东西。”
还有更多
沃特福德将继续通过其传统SCADA系统管理一些网站,直到2022年底,他们期望完成所有剩余的升级。
带宽的大幅增加,MQTT Sparkplug的低管理开销和凹槽史诗般的数据处理在边缘提供了备用数据处理,沃特福德可以长期扩展其系统。他们添加的每个新设备或应用程序都只需要与MQTT代理的连接,以便为整个系统生产或消耗数据。
例如,通过集成住宅电表数据,它们可以帮助系统保持平衡。如果他们可以与其他机构和邻近县交谈共享数据,他们会看到建立高级警告系统的潜力,该警告系统将改善其对系统扰动的反应时间。
弗兰克说:“我们仍在努力弄清楚我们还能做什么。”“我们还有许多其他乐器,我们希望能够从现场中获取数据,这些仪器以前并不是真正可行的……不仅在我们的电梯站和我们的治疗厂,而且在整个组织中。我们在哪里可以与流量计一起使用?我们在哪里可以在所有资产中使用它来给我们更好的概述?我们只是开始这一旅程。”
当被问及他认为其他工程师最需要了解MQTT时,凯文·芬克勒(Kevin Finkler)指出:“客户服务器的通信基本上是为他们处理的。在处理所有通信之前,有很多代码。这是很多工作要维护。现在您只将标签标记为“公共” [in凹槽史诗]这一切都为您服务。工作较少,因此在工程时间花费的钱减少了。”
在工程时间上花费的钱减少了,这意味着团队可以应对更大的挑战,将关键基础设施移至真正的数字转型。
联系信息
有关更多信息,请访问www.ceptectivecontrols.com或通过ffisher@waterfordmi.gov与Frank Fisher联系
下载案例研究PDF