<?xml version="1.0" encoding="utf-8"?>
<math xmlns="http://www.w3.org/1998/Math/MathML">
    <mrow>
      <mo>{</mo>
      <mrow>

        <mrow>
          <mo>⌊</mo>
          <mfrac>
            <mi>a</mi>

            <mi>b</mi>
          </mfrac>
          <mo>⌋</mo>

        </mrow>
        <mo stretchy="true" fence="true">|</mo>
        <mrow>
          <mrow>

            <msup>
              <mi>a</mi>
              <mn>2</mn>

            </msup>
            <mo>+</mo>
            <msup>
              <mi>b</mi>

              <mn>2</mn>
            </msup>
          </mrow>

          <mo>≤</mo>
          <mn>3</mn>
        </mrow>
      </mrow>

      <mo>}</mo>
    </mrow>
</math>