基于博弈树的开源五子棋AI教程[6 置换表]

news/2024/7/10 19:28:13 标签: 开源, 人工智能, 五子棋AI, 博弈树搜索, QT, 置换表

文章目录

  • 引子
  • 定义
  • 实现
  • 讨论与尾记

引子

置换表是记忆化搜索技术的应用,置换表保存了某一盘面的搜索结果。当博弈树搜索遇到相同的局面时可以调用这些信息来减少重复搜索。那么如何设计一个置换表的节点就显得比较重要,本文在经典的置换表节点增加一个显示当前玩家的字段,这一字段补足了zobrist hash单向函数的缺点,如果节点需要使用更浅深度的信息,可以通过迭代的方式来求解,丰富了置换表的信息。

定义

置换表中包换了搜索状态的散列值,剪枝信息,PV信息以及用于迭代获取浅层深度的玩家信息。

//EXACT :表示记录中存储的分数是一个精确的估值分数。
//hashfBETA :表示记录中存储的分数是一个下界(lower bound)。这意味着在搜索中发现了一个分数,它至少是某一分支的分数下限,可能更高。
//hashfALPHA :表示记录中存储的分数是一个上界(upper bound)。这意味着在搜索中发现了一个分数,它至多是某一分支的分数上限,可能更低。
struct NABtransportTableNode {
    quint64 key;
    int value;
    quint8 depth;
    quint8 flags;
    MPoint bestMove;
    MPlayerType lastPlayer; //当前hash状态下,最后一个落子类型

    NABtransportTableNode() : key(InitialZobristHash), value(0), depth(InitialDepth), flags(hashfEmpty),
        bestMove(InvalidMPoint), lastPlayer(PLAYER_NONE){}
};

实现

置换表需要实现三个最主要的功能,获取,添加,清除。根据获取信息的需求不同给出三个函数getNABTranspositionTable用于获取并修改搜索中的剪枝信息,getPVNABTranspositionTable更关注获取某一指定盘面下的搜索结果,getBestMoveNABTranspositionTable更暴力,我只需要当前状下最佳着法即可。

    //置换表[用于负极大搜索,对于其他搜索方式需要修改,未做测试]
    bool getNABTranspositionTable(int &score, int depth, int &alpha, int &beta) const;
    bool getPVNABTranspositionTable(int&score, MPoint& bestMove, int depth, const quint64 &curhash) const;
    bool getBestMoveNABTranspositionTable(MPoint &bestMove) const;
    void appendNABTranspositionTable(int depth, int val, int hashf, MPoint bestMove, MPlayerType lastPlayer);
    void clearNABTranspositionTable(quint8 minCutDepth = InitialDepth);

这里只给出置换表中使用最多的获取节点剪枝信息到置换表中实现。追加表项的方法和清除置换表的方法相对简单,可以移步源代码一观。

//置换表
/*不用标记玩家或者交换上下界:因为评估是根据当前层的玩家决定的,无论是否交换手,
该层玩家始终没有变化,区别只不过是Max还是Min玩家罢了*/
bool ZobristHash::getNABTranspositionTable(int& score, int depth, int &alpha, int &beta) const
{

    if(!globalParam::utilGameSetting.IsOpenTranspositionTable) return false;

    QReadLocker locker(&globalParam::transportTableLock);
    NABtransportTableNode *hashNode = &globalParam::transportTable[m_hash & globalParam::transportTableSizeMask];
    if (hashNode->key == m_hash) {
        //因为不同棋子数目的棋盘分数没有可比性
        if(hashNode->depth < depth) return false;
        int storedScore(-INT_MAX);
        if(hashNode->depth == depth){
            storedScore = hashNode->value;
        }
        else{
            MPoint nextMove = hashNode->bestMove;
            MPlayerType nextPlayer = UtilReservePlayer(hashNode->lastPlayer);
            if(nextMove == InvalidMPoint || nextPlayer == PLAYER_NONE) return false;
            quint64 nextHash = generateHash(m_hash, nextMove, PLAYER_NONE, nextPlayer);

            for (int curDepth = 1; curDepth < depth; ++curDepth) {
                NABtransportTableNode *nextHashNode = &globalParam::transportTable[nextHash & globalParam::transportTableSizeMask];
                if (nextHashNode->key == nextHash) {
                    nextMove = nextHashNode->bestMove;
                    nextPlayer = UtilReservePlayer(nextPlayer);
                    nextHash = generateHash(nextHash, nextMove, PLAYER_NONE, nextPlayer);
                }
            }
            if(getLeafTable(globalParam::AIPlayer, storedScore, nextHash)){
                if(nextPlayer != globalParam::AIPlayer) storedScore *= -1;
            }
        }
        if(hashNode->flags == hashfExact) {//精确值
            score = storedScore;
            return true;
        }
        else if((hashNode->flags == hashfLowerBound) && score > alpha) alpha = score;//更新alpha
        else if ((hashNode->flags == hashfUperBound) && score < beta)  beta = score;//更新beta
        if(alpha >= beta){//剪枝
            score = hashNode->value;
            return true;
        }
    }
    return false;
}

这里实现区别于网上经典的实现方法,一般而言置换表中某一节点的深度越深,得到的信息越可靠。然而在五子棋中并不能一概而论,深度越深,着法越可靠,但是得分就不可靠了。深度不同,叶子棋盘的落子数必然不同,在得分没有归一化的情况下盲目使用是非常不安全的。基于这点发现,实现是通过迭代寻找指定深度,然后通过查找叶子表来求解分数,这样避免了子数不一致进行尴尬局面。
这种实现方式也可以认为是一种时间换空间策略,如果保存某一盘面的所有深度下搜索信息,置换表将成倍数递增,增加了程序的内存负担。

讨论与尾记

通过对极大极小的讨论我们可以知道一点,剪枝算法是安全可靠的,无论剪枝与否,PV路径始终是可以被搜索出来,然而置换表的引入虽加快了搜索,但搜索的不稳定性问题便会凸显出来。在对弈基本技术-置换表篇中指出

当你用置换表时,如果你允许搜索过程根据散列项来截断,那就会产生另一个问题,你的搜索会受“不稳定性”的捆扰。
  不稳定性至少是由以下因素引起的:
  1. 你可能在做6层的搜索,但是如果你在散列项中得到10层搜索的结果,就可能根据这个值来截断。在后来的搜索中,这个散列项被覆盖了,因此你在这个结点上得到了两个不同的值。
  2. Zobrist键值无法记录到达结点的线路,这个结点上不是每条线路都有相同结果的。如果某条线路遇到重复局面,那么散列项的值就会跟路线有关。因为重复局面会导致和局的分值,或者至少不一样的分值。

还有一个原因已经在搜索篇章点出,评分视角的不同,评分会有差异,如果直接使用这些信息截断,极有可能将PV路径拒之门外。


http://www.niftyadmin.cn/n/5322917.html

相关文章

管理软件供应链中网络安全工具蔓延的三种方法

软件开发组织不断发展&#xff0c;团队成长&#xff0c;项目数量增加。技术堆栈发生变化&#xff0c;技术和管理决策变得更加分散。 在这一演变过程中&#xff0c;该组织的 AppSec 工具组合也在不断增长。在动态组织中&#xff0c;这可能会导致“工具蔓延”。庞大的 AppSec 工…

Promise基础详细介绍(一),resolve,reject

Promise的含义 就是一个对象&#xff0c;用来传递异步操作的消息。 基本用法 resolve,reject是javascript引擎提供的。 const promise new Promise(function(resolve, reject) {const result {success: truevalue: 777} //伪代码&#xff0c;比如接口返回的参数if(result.su…

远程开发之vacode插件Remote - SSH

远程开发之vacode插件Remote - SSH vscode插件(Remote - SSH)ssh config自定义配置跳板机ssh-agent配置(使ForwardAgent配置生效, 免密拉代码)拷贝公钥到服务器(实现免密登录服务器) 通过vscode的Remote - SSH插件, 实现远程服务器进行像本地操作一样使用远程服务器, 亦可进行像…

发起人自选-钉钉审批

场景描述 配置一个审批流程&#xff0c;在某些审批节点&#xff0c;不能确定谁具体来审批&#xff0c;所以需要手工选择一个人或者多个人保证流程能得以顺利通过。有些审批流程的做法是&#xff0c;上一个节点来选择指定的人&#xff0c;而钉钉的做法是发起人来指定。 钉钉设…

ChatGPT能帮助我们人类做什么

一、ChatGPT可以在多个方面帮助人类&#xff1a; 回答问题&#xff1a; ChatGPT可以回答各种问题&#xff0c;提供信息和解释概念。 创造性写作&#xff1a; 它可以生成文章、故事、诗歌等创意性文本。 学术辅助&#xff1a; ChatGPT可以辅助学术研究&#xff0c;提供解释、背…

AWS-SAA-C03认证——之基础知识扫盲

文章目录 前言一、Amazon ECS二、 Amazon EKS三、Amazon EC2四、Elastic Beanstalk五、AWS Fargate六、 AWS Lambda &#xff08;serverless&#xff09;七、Amazon EBS7.1 EBS生命周期 八、Amazon Elastic File System (EFS) -共享文件系统九、什么是 Amazon S3&#xff1f;9.…

metrics安装异常原因【doesn‘t contain any IP SANs】

1、问题背景 安装好k8s后&#xff0c;安装metrics-server后发现对应的pod一直无法启动。 apiVersion: v1 kind: ServiceAccount metadata:labels:k8s-app: metrics-servername: metrics-servernamespace: kube-system --- apiVersion: rbac.authorization.k8s.io/v1 kind: Cl…

GPU云服务器使用教程、运行YOLOV5项目并连接到本地VSCode(Pycharm)

编程如画&#xff0c;我是panda&#xff01; 之前已经教过大家如何在自己的电脑中配置Pytorch深度学习环境&#xff0c;但是有些小伙伴没有英伟达的GPU&#xff0c;所以用CPU的话训练模型会比较慢&#xff0c;所以这次出一期使用GPU云服务器的教程。 码字不易&#xff0c;如果对…