机器学习和扩展现实用于培训焊工

放大字体  缩小字体 2024-04-27 16:06  浏览次数:

Machine learning and extended reality used to train welders

自从古埃及人把两块金子锤在一起直至熔合,焊接技术就不断进步。

铁器时代的铁匠利用热锻造和焊接铁。工业革命初期发现的乙炔为焊接增添了一种用途广泛的新燃料。19世纪末,两位工程师发明了金属电弧焊,最近,机器人焊接系统的兴起和高强度合金的进步扩大了焊接的应用。

尽管技术进步的历史很长,但焊接仍然是一项具有挑战性的技能。它需要技术知识和手工灵巧的结合。鉴于其在许多行业的普遍存在,包括制造业,建筑业,航空航天业和汽车业,对熟练焊工的需求仍然强劲。据美国焊接协会(American Welding Society)称,美国雇主目前面临37.5万名焊工的缺口。

卡内基梅隆大学(Carnegie Mellon University)的研究人员正在解决这个问题,他们正在开发一种培训焊工的新方法,这种方法再次应用了一种新兴技术。设计学院助理教授Dina El-Zanfaly和建筑学院副教授Daragh Byrne与一组研究人员合作,开发了一种扩展现实(XR)焊接头盔和火炬系统,以帮助焊工获得掌握具有挑战性技能所需的具体知识。

“这不仅是一个非常酷的项目,而且它还结合了小额信贷机构使命的关键目标,”小额信贷机构的执行董事桑德拉·德文森特·沃尔夫说。“这是一项突破性的研究,推动了制造技术的发展,有助于劳动力的发展,并吸引了当地社区的合作伙伴。”

扩展现实结合了虚拟现实(VR),这是一种计算机生成的环境,模拟现实或想象的体验;增强现实(AR),将计算机生成的信息与用户的真实环境相结合;以及混合现实(MR),现实世界和数字对象共存并实时交互。这些功能共同创造了一种身临其境的体验,允许用户实时与信息、环境和数字内容进行交互。

培训焊工需要发展手眼协调能力和对身体在空间中的位置和运动的敏锐感知。这种具体化的知识是通过与工具和材料的实际交互获得的,并且很难在培训场景中复制。

卡内基梅隆大学的研究人员通过组织一系列共同设计研讨会来更好地理解培训挑战。他们与工业艺术工作室(IAW)的八名教师和四名学生合作,IAW是匹兹堡黑兹尔伍德社区的一个非营利性青年焊接培训项目,他们开发了一个系统,该系统将焊接头盔和火炬与元Quest Pro和机器学习模型集成在一起,该模型从三个关键方面增强了焊接的具体学习。

视觉XR引导和集成的运动传感

焊接实践的高度沉浸性和具体化的本质使得教师很难直观地监控过程,并以及时、安全和可听的方式向学生提供反馈。无论是书面指导还是反馈都不能实时传达细微的、动手的技能。

研究人员通过在焊接头盔上安装meta Quest头显来克服这些障碍,该头显可以显示一系列视觉反馈机制,在训练过程中指导学生,并提供他们的表现记录,以便教练在训练期间或之后进行评估。

焊接头盔内的两个独立的XR指示器显示焊接学生应该进行的细微变化和调整,以保持连接到Quest Touch控制器的焊枪的正确角度。状态图标靠近耳机视口的顶部,允许用户在不将注意力从活动焊缝上移开的情况下看到反馈。状态图标还为教师和用户提供了更清晰的性能概述,同时查看实时回放。

研究人员利用车间讲师的反馈来确定如何将焊缝的XR表示校准为真实工件,以便用户可以使用焊枪设置焊缝的起点和终点,以设置他们需要遵循的滚动导轨的位置。

Machine learning and extended reality used to train welders

传感等焊接过程中的Nic线索

卡内基梅隆大学的研究人员从车间讲师那里了解到,有经验的焊工能够通过积极倾听来评估焊缝。因此,他们的系统可以使用基于听觉的方法实时诊断焊缝,而不是在焊缝完成后进行视觉评估。

“例如,根据教练的说法,一个好的焊接速度听起来应该像滋滋作响的培根,而不是爆米花,”El-Zanfaly解释说。

金属惰性气体焊接是通过焊枪尖端挤出金属丝,用惰性气体保护金属丝,利用金属丝与工件之间短路电流产生的热量将两种金属熔合在一起。该系统设置不正确导致焊接质量差。例如,如果焊机的安培设置过低,则会导致焊头过薄,导致工作板的渗透不一致。

根据先前的研究和AIW讲师的反馈,不同的设置会导致焊接声音的变化,这可能提供重要的培训反馈。但是焊接空间中极端的热、光和声音条件,加上笨重的焊接头盔和其他个人防护装备,需要防止高温、火花、紫外线辐射和金属飞溅,限制了焊工感知这种听觉刺激的能力。

通过使用微型机器学习(TinyML)使声音检测能够识别设置和尖端距离等关键因素,研究人员训练并部署了他们的模型,以提供视觉反馈,指示声音检测到的错误,例如当枪尖离焊接板太远时产生的错误。

研究人员要求经验丰富的焊工重复执行相同的焊接动作,每个焊缝只改变一个设置。他们收集了超过20分钟的音频数据,这些数据均匀地分布在不同的类别设置中,用于训练和测试TinyML分类模型。

TinyML专注于在资源受限的设备上部署和运行机器学习模型,例如微控制器,在这种情况下,微控制器连接到增强头盔以提供反馈。研究人员训练了TinyML模型来提醒受训者注意常见的错误,比如不正确的设置和枪尖距离。

声音也被用来检测焊缝的开始和结束。研究人员同时从五个不同的设备(两个微控制器,两个三星智能手机和一个USB麦克风)上收集了19分钟的焊接声音,以训练一个分类系统,该系统可以以97%的准确率检测焊接。该分类器取代了与焊枪上的物理按钮进行机电检测的需要,后者用于启动焊接跟踪,并使系统更加便携。

Pre-welding冥想

在研讨会期间,研究人员发现,教师鼓励学生在开始焊接前进行冥想和呼吸练习,以此来诱导放松和培养专注感,以抵消焊接环境的影响,焊接环境可能会因噪音、火花、热量和燃烧的气味而不堪重负。

为了加强正念练习,研究人员对平台进行了编程,在每次焊接课程开始时,鼓励学员进行呼吸练习。他们还在焊接头盔内的嘴和鼻子附近放置了一个风速计,以测量呼吸的呼出风速,并跟踪呼吸模式随时间的变化,以便开发系统提示,帮助焊接学生调节呼吸,提高任务表现。

该系统具有感应动作、检测声音和通过冥想和呼吸练习增强用户注意力的能力,可以帮助学生将他们在虚拟培训中获得的技能转移到实际焊接实践中。它能够提供实时指导,为学生和教师提供了许多优势,否则他们必须依靠焊接完成后获得的信息来评估性能。整体方法还可以为XR系统中的工艺和技能培训提供信息,而不仅仅是焊接培训。

El-Zanfaly解释说:“我们工作的一个真正令人兴奋的方面是,我们的系统能够使用稍微修改的现成XR和焊接装置来实现原位焊接体验。

他们的工作已经在2023年计算机协会(ACM)交互式表面和空间会议和2024年ACM有形、嵌入式和具体化交互会议上获得了认可。

接下来,团队计划寻找更多的机会来改进工作的技术层面和具体化的体验。他们计划在A/B实验室研究中部署该平台,并在IAW进行数周的研究,以评估该设备的长期使用如何有助于技能、习惯和新手体验的形成。

卡内基梅隆大学提供
引用:用于培训焊工的机器学习和扩展现实(2024年4月25日)2024年4月26日检索自https://techxplore.com/news/2024-04-machine-reality-welders.html本文档 作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外,未经书面许可,不得转载任何部分。的有限公司 内容仅供参考之用。

热门搜索排行
声明:本站信息均由用户注册后自行发布,本站不承担任何法律责任。如有侵权请告知,立即做删除处理。
违法不良信息举报邮箱
晋ICP备17002844号
中国互联网举报中心