现象引出和问题猜想

有一款用户软件叫DosBox，在实体机win11的时候最大化的时候，程序界面可以铺满全屏，但是在winserver2016云桌面进行最大化的时候，最大化的时候，界面无法铺满全屏：

（实体机最大化，界面全屏显示）

（云桌面程序最大化主界面无法铺满全屏）

这到底是什么原因导致在云桌面下程序最大化就无法铺满全屏呢？首先我们猜测，程序之所以能够铺满全屏是因为程序在最大化的时候设置了桌面的显示分辨率，即最大化的时候把桌面的分辨率设低，退出最大化的时候，恢复桌面原来的分辨率。通过代码：

void GetCurrentResolution_imp()
{
DISPLAY_DEVICE DispDev;
Res temp;
for (auto iDevIdx = 0; iDevIdx < 2; iDevIdx++)
{
ZeroMemory(&DispDev, sizeof(DISPLAY_DEVICE));
DispDev.cb = sizeof(DISPLAY_DEVICE);
int dspNum = GetSystemMetrics(SM_CMONITORS); // 两个显示器为复制模式时，仅在1/2上显示时，值都为1
// 获取有关系统中显示设备的信息
if (EnumDisplayDevices(NULL, iDevIdx, &DispDev, 0))
{
DEVMODE devMode;
int display_id = 0;
if ((DispDev.StateFlags & DISPLAY_DEVICE_ATTACHED_TO_DESKTOP) != DISPLAY_DEVICE_ATTACHED_TO_DESKTOP)
continue;
if ((DispDev.StateFlags & DISPLAY_DEVICE_PRIMARY_DEVICE) == DISPLAY_DEVICE_PRIMARY_DEVICE
|| dspNum == 1) // 主显示器或者只在一个显示器显示
{
display_id = 0;
}
else
{
display_id = 1;
}
if (EnumDisplaySettings(DispDev.DeviceName, ENUM_CURRENT_SETTINGS, &devMode))
{
temp.dmPelsHeight = devMode.dmPelsHeight;
temp.dmPelsWidth = devMode.dmPelsWidth;
temp.display_id = display_id;
printf("w %d,h %d display_id %d\n", devMode.dmPelsWidth, devMode.dmPelsHeight, display_id);
}
}
}
}

不断轮询获取桌面的分辨率，发现在实体机下程序最大化的时候确实将桌面的分辨率调低了：

（实体机原来桌面的分辨率是3456*2160，程序最大化的时候桌面分辨率被修改为640*480）

同样发现在云桌面下，DosBox同样把桌面分辨率调低了：

（云桌面原来桌面的分辨率是1920*1080，程序最大化的时候桌面分辨率被修改为1024*768）

这就发现可能是这两个系统可设置分辨率的最小值不一样，云桌面的可设置分辨率的最小值比较大，导致了，界面无法被拉伸显示很大。看看两台系统的可设置分辨率：

（实体机win11可设置最小分辨率为800*600 ）

（云桌面可设置最小分辨率为1024*768）

可以发现实体机win11可设置最小分辨率为800*600，DosBox设置的分辨率为：640*480

云桌面server2016可设置最小分辨率为1024*768，DosBox设置的分辨率为1024*768

于是我们猜测，因为两台系统的可设置最小分辨率不一样，导致云桌面设置的最小分辨率太大导致DosBox界面无法放的足够大来覆盖桌面；但是同时发现在实体机下设置的分辨率并不是系统可设置的最小分辨率，设置的640*480比系统可设置最小分辨率800*600低。

跟踪剖析问题

设置系统分辨率一般是通过ChangeDisplaySettings这个api：

void changeResolution()
{
DEVMODE DevMode;
EnumDisplaySettings(NULL, 0, &DevMode);
DevMode.dmFields = DM_PELSWIDTH | DM_PELSHEIGHT;
DevMode.dmPelsWidth = 1920;
DevMode.dmPelsHeight = 1200;
DevMode.dmDisplayFrequency = 30;
DevMode.dmBitsPerPel = 32;
ChangeDisplaySettings(&DevMode, 0);
}

但是通过apimonitor进行api拦截，发现并未拦截到该api的调用，猜测程序并不是通过调用ChangeDisplaySettings来设置桌面分辨率的。把Doxbox.exe拖拽到ida上：

看到DosBox.exe导入表并没有导入ChangeDisplaySettings这个api，而且apimonitor也确实没抓取到程序对该api的调用，但是发现导入表导入了较多的opengl的函数。于是猜测程序是通过opengl的api来修改系统的分辨率的，通过百度我也发现了一篇文章：

确实发现有人通过SDL_SetVideoMode来设置桌面的分辨率，而且这个函数也是DoxBox调用过的。

但是通过ida看伪码发现他们调用方式并不一样（其实参数传递在ida上很难直观看出）：

SDL_SetVideoMode这个函数调用的地方也比较多的：

把SDL.dll拖拽到ida上，直接断点调试：

传入参数 a1（0x280） a2（0x190）应该是传入的需要设置的宽640*400，这个跟网络blog上对setvideomode函数调用一致，前两个参数分别是宽和高。

通过调试发现程序是通过SDL_ListMode来获取可设置分辨率的列表，最后获取到最小的分辨率数组下标，最后得到v110为0x280，v109为0x1E0，即为宽640 高480，即这个就是最后设置的桌面分辨率，但是奇怪，系统可设置分辨率的列表并没有640*480，最小是800*600。那么就要分析SDL_ListModes这个函数了。

我在网络上找到这个api的用法：